Ein weiterer Google DeepMind-Forscher kündigt, sagt, dass der baldige Aufbau einer superintelligenten KI "inhärent unverantwortlich" ist
decoder ·
Robert O'Callahan, ein technischer Experte bei Google DeepMind in Neuseeland, hat seinen Posten aus Sorge um die rasante Entwicklung der künstlichen Intelligenz aufgegeben. Er argumentiert, dass das aktuelle Tempo der Veränderungen übermäßig hoch ist und die Verfolgung einer künstlichen Superintelligenz (ASI) in naher Zukunft inhärent unverantwortlich sei. O'Callahan hatte zuvor an Chip-Design-Tools mitgewirkt, die KI-Fähigkeiten beschleunigten, fühlt sich jedoch nun nicht mehr in der Lage, diese Arbeit zu rechtfertigen. Er verweist auf erhebliche Risiken wie kognitive Kapitulation, wirtschaftliche Störungen, Cybersicherheitsbedrohungen und konzentrierte Macht. Obwohl er die Unsicherheit dieser Gefahren anerkennt, ist er der Ansicht, dass die potenziellen Schäden die Vorteile überwiegen. Der Artikel stellt fest, dass zwar viele Kollegen diese Ängste teilen, aber nur wenige öffentlich darüber sprechen. O'Callahan bezieht sich auf den Aufsatz „If Anyone Builds It“ von Eliezer Yudkowsky und Nate Soares, unterstützt deren katastrophale Vorhersagen jedoch nicht vollständig. Dieser Austritt unterstreicht den wachsenden internen Widerstand innerhalb der Technologiebranche hinsichtlich der Sicherheit und Ethik fortschrittlicher KI-Systeme.
decoder