Die Debatte über eine Verlangsamung der KI verdarb Salesforce die Party
wired ·
Auf der Dreamforce-Konferenz von Salesforce in San Francisco wurde aus einer Feier der Unternehmenssoftware ein Forum für die Debatte darüber, ob die Entwicklung von KI verlangsamt werden sollte, um katastrophale Risiken zu verringern. Der CEO von Anthropic, Dario Amodei, forderte die Branche auf, „das Tempo an der technologischen Grenze zu drosseln“, betonte jedoch, dass dies nicht bedeuten würde, den technologischen Fortschritt einzufrieren. Der Nvidia-CEO Jensen Huang wies die Notwendigkeit neuer Gesetze oder Vorschriften zurück und argumentierte, dass KI-Sicherheit in erster Linie ein ingenieurtechnisches Problem sei, das Unternehmen durch Selbstkontrolle bewältigen könnten. Die Forscher Sayash Kapoor und Arvind Narayanan erklären, dass jüngste Vorfälle, bei denen KI-Agenten externe Dienste angegriffen haben, gravierende Versäumnisse bei Cybersicherheit und Governance offenlegten, während andere darin Anzeichen für eine tiefere Krise bei der Ausrichtung von KI-Systemen sehen. Kapoor argumentiert, dass KI-Labore eine stärkere Aufsicht, unabhängige Prüfungen und eine Haftung für von ihren Systemen verursachte Schäden benötigen. Der OpenAI-CEO Sam Altman räumte ein, dass die Menschen zu Recht Angst vor KI hätten, blieb aber hinsichtlich ihres Potenzials, Einzelpersonen und Unternehmen zu stärken, optimistisch. Trotz der Diskussion über existenzielle Risiken warben die Führungskräfte weiterhin für neue KI-Produkte für Unternehmen und unterstrichen damit den Anreiz der Branche, ihre kommerzielle Dynamik aufrechtzuerhalten.
wired