Бывший исследователь DeepMind считает, что стратегия AlphaGo может вылечить галлюцинации ИИ
decoder ·
Бывший исследователь DeepMind Тор Грээпел основал компанию Metis Reasoning, чтобы бороться с галлюцинациями ИИ, применяя стратегический подход AlphaGo к общим рассуждениям. Предлагаемая система разделяет знания и веса модели, храня их во внешней реестровой базе данных, которая независимо проверяется на соответствие доказательствам перед принятием. Этот подход направлен на предоставление объяснений, подкрепленных источниками, и позволяет исправлять ошибки без необходимости переобучения всей модели. Грээпел утверждает, что простое увеличение объема данных и вычислительных мощностей не решает фундаментальную проблему проверяемых рассуждений в больших языковых моделях. Хотя метод демонстрирует потенциал для робототехники и устройств периферийных вычислений, текущая концепция остается теоретической: работающих систем или бенчмарков пока нет. В статье отмечается более широкий тренд ухода ветеранов DeepMind из Google ради независимых проектов, направленных на создание надежного ИИ. Несмотря на отсутствие немедленной практической реализации, компания привлекает значительные инвестиции для разработки этой новой парадигмы.
decoder