Андрей Карпаты из Anthropic говорит, что внешний мир увидел превью того, на что способна ИИ
decoder ·
Андрей Карпаты, сооснователь OpenAI и текущий исследователь Anthropic, отмечает значительный разрыв между общественным восприятием и реальными возможностями передовых систем искусственного интеллекта. Он делит мировое население на четыре категории, отмечая, что около 75% людей лишь поверхностно взаимодействовали с большими языковыми моделями, а обычные пользователи воспринимают их исключительно как улучшенные поисковые системы или помощники для написания текстов. В то же время примерно 20 миллионов профессионалов в области математики и программирования получают существенный прирост производительности, завершая сложные проекты за дни вместо недель. Крошечная элита из примерно 5000 человек имеет доступ к внутренним системам уровня frontier, способным координировать роевые агенты для решения задач в сфере кибербезопасности и научных открытий. Карпаты описывает эту ситуацию как «странность момента», когда большинство людей видит лишь modestное улучшение, в то время как небольшая группа испытывает головокружение от вертикальных кривых возможностей. Он объясняет этот быстрый прогресс обучением с подкреплением, ориентированным на цифровые, проверяемые и экономически ценные домены, такие как программирование. Тем временем процессы человеческого понимания и проверки не успевают за этими ускоряющимися технологическими изменениями.
decoder