Anthropic advierte en su registro de IPO que podría alcanzar pronto el umbral de auto-mejora recursiva
aiinsider ·
En su presentación revisada de la S-1 para una oferta pública inicial, Anthropic ha advertido que podría estar cerca de alcanzar el umbral de auto-mejora recursiva en sus modelos de IA. Este hito se refiere a un punto en el que la inteligencia artificial se vuelve altamente efectiva para entrenarse a sí misma, lo que potencialmente conduciría a aceleraciones dramáticas en sus capacidades. La compañía reconoce que, aunque esta tecnología ofrece promesas para la productividad y el descubrimiento científico, también plantea riesgos significativos de seguridad al permitir que la IA construya sistemas de IA más capaces. Nuevas revelaciones sobre riesgos indican que las capacidades de los modelos podrían superar el trabajo de Anthropic en materia de seguridad, alineación y protección, señalando que la firma anteriormente no había reconocido estos saltos de capacidad hasta después de que ocurrieran. A pesar de estas advertencias, Anthicap enfatizó que ningún modelo actual ha cruzado este umbral y que no tiene la intención de permitir que Claude desarrolle autónomamente futuros modelos fronterizos sin una supervisión humana sustancial. La empresa está considerando actualmente actualizar su Política de Escalamiento Responsable para garantizar que los humanos mantengan el control de las etapas críticas del desarrollo. Los críticos ven la posible pérdida de control humano como una preocupación mayor, mientras que los entusiastas lo consideran un paso clave hacia un progreso tecnológico avanzado. Los escépticos señalan que tales declaraciones en un documento S-1 sirven tanto como divulgación regulatoria como estrategia de marketing.
aiinsider