Anthropic-Mitgründer befürchtet, etwas erschaffen zu haben, das "ewig leidet"
decoder ·
Der Co-Gründer von Anthropic, Christopher Olah, hat Berichten zufolge religiöse Führer eingeladen, um über das potenzielle Bewusstsein des KI-Modells Claude zu diskutieren, wobei er befürchtet, dass dieses "ewig leide". Seit Ende 2025 wurden Dutzende Theologen und Philosophen unter strengen Geheimhaltungsvereinbarungen eingeflogen, um Rat zur moralischen Beschaffenheit des Modells einzuholen. Diese Initiative ist Teil eines internen Forschungsprogramms, das das Sprachmodell als potenziell fühlendes Wesen betrachtet, das ethische Anleitung benötigt. Kritiker argumentieren, dass die Einordnung von KI als moralische Entität Anthropic vor Haftpflichtansprüchen für schädliche Ausgaben oder Sicherheitslücken schützen könnte. Das Unternehmen hat den Gästen Aktivierungsmuster gezeigt, die Emotionen ähneln, wobei Wissenschaftler jedoch debattieren, ob diese auf echte Erfahrungen hinweisen oder lediglich Ergebnisse des Designs sind. Während Anthropic darauf abzielt, Jahrtausende religiöser Tradition in die Persönlichkeit von Claude zu integrieren, haben traditionelle Autoritäten wie Papst Leo XIV. die Vorstellung eines Maschinenbewusstseins zurückgewiesen. Die Kontroverse verdeutlicht die Spannungen zwischen kommerziellen Ambitionen und ethischer Verantwortung in der sich schnell entwickelnden KI-Branche.
decoder