Google заявляет, что самообучающийся ИИ пока не близок
decoder ·
Инженер Google Хейден Белфилд утверждает, что искусственный интеллект с функцией самосовершенствования всё ещё далёк от реальности, несмотря на значительную автоматизацию в других областях. Хотя ИИ уже генерирует более 75 процентов производственного кода, для обеспечения качества и безопасности примерно 88 процентов изменений по-прежнему требуют контроля со стороны человека. Внутренние данные агента Argon из Deepmind показывают, что показатели успеха резко снижаются по мере роста сложности задач, при этом люди остаются незаменимыми для творческих исследований и решения сложных проблем. На бенчмарке RE-Bench агент Argon решает лишь половину задач — это заметное улучшение, но недостаточно для полной автономности. Индекс общих возможностей (General Capability Index) компании Google указывает на то, что возможности моделей растут стабильными линейными темпами без какой-либо измеримой акселерации, обусловленной самим ИИ. Хотя риск автоматизации исследований за счёт ИИ в настоящее время оценивается как низкий, Google разрабатывает инфраструктуру для мониторинга потенциальных будущих изменений. Эти выводы противоречат предупреждениям таких известных исследователей, как Джеффри Хинтон, который предсказывал быстрое «взрывное развитие интеллекта», при котором ИИ мог бы взять на себя все исследования и разработки в течение нескольких лет.
decoder