Anthropic advierte que está muy cerca de la capacidad de RSI, es decir, IA autoconstruida
techcrunch ·
En su presentación revisada S-1A, el laboratorio de inteligencia artificial Anthropic reveló que se acerca a la capacidad de mejora recursiva (RSI), un umbral en el que la IA puede acelerar significativamente su propio desarrollo. La compañía advierte que utilizar la IA para construir modelos más capaces plantea riesgos considerables de seguridad, ya que podría superar la capacidad humana para implementar las medidas necesarias de seguridad y alineación. Aunque Anthropic afirma que ningún modelo actual ha cruzado este umbral de RSI, estimaciones internas sugieren que podrían cumplir inminentemente su definición de progreso dramáticamente acelerado atribuible a la IA. Este anuncio destaca la naturaleza dual de la RSI como una promesa de productividad sin precedentes y un peligro potencial por la posible pérdida de control. Para mitigar estos riesgos, Anth enfatiza su compromiso de mantener a los humanos en el proceso durante el desarrollo de modelos fronterizos mediante su Política de Escalamiento Responsable. El documento también señala que avances pasados incluyeron saltos en la capacidad que no fueron reconocidos inmediatamente en el momento del desarrollo. Mientras que los escépticos ven estas declaraciones como parte del marketing de la oferta pública inicial (IPO), el rápido crecimiento en las habilidades de codificación y ciberseguridad de Claude otorga credibilidad a la preocupación. En última instancia, el artículo sugiere que las partes interesadas deben tomar en serio la posibilidad de acercarse a la RSI y considerar medidas de gobernanza apropiadas.
techcrunch