教皇的AI顾问担忧大型实验室出现“卡特尔”式行为
wired ·
梵蒂冈人工智能顾问巴奥罗·贝南蒂神父警告称,主要的人工智能实验室正表现出类似卡特尔的行为,垄断了关于技术治理的讨论。他认为,围绕超级智能和生存风险产生的当前狂热情绪,分散了对民主监管和公众监督这一紧迫需求的注意力。贝南蒂指出,将人工智能描绘成神一般的实体符合大型科技公司的自身利益,使它们能够排除外部声音参与关键决策过程。他主张不应聚焦于对人类灭绝的推测性恐惧,而应建立标准以确保模型保持在人类控制之下,同时不扼杀创新。这位神父批评行业倾向于将效率视为最高价值,这可能导致人类被简化为单纯的优化项目。他强调,人工智能本质上是统计计算而非神圣力量,呼吁社会拒绝技术官僚逻辑,转而进行伦理性的公共讨论。这一观点与教皇利奥十四世最近的教导相一致,后者呼吁国际合作并警告防止在人工智能开发中的地缘政治主导。最终,贝南蒂强调必须建立有意义的制动和转向机制,以在这些强大工具面前维护人类的能动性。
wired