Google startet das DeepMind Institut für AGI-Sicherheit und erweitert den KI-Agenten CC für die Familienkoordination
aiinsider ·
Google und Google DeepMind haben das DeepMind Institute offiziell gegründet, um breitere Diskussionen über die Sicherheit von künstlicher allgemeiner Intelligenz (AGI) zu fördern. Das Institut wird von Schlüsselfiguren wie Shane Legg, James Manyika und Demis Hassabis geleitet und zielt darauf ab, unterschiedliche Perspektiven innerhalb der Forschungscommunity sichtbar zu machen. Die ersten veröffentlichten Essays behandeln kritische Themen wie Wirtschaftspolitik im Fall von AGI-Verwerfungen, die Notwendigkeit transparenter Modellreasoning-Prozesse sowie Bewertungsrahmen für Frontier-AI. Insbesondere argumentierten die Forscher Rohin Shah und Anca Dragan gegen die Unvermeidlichkeit von Intransparenz in KI-Systemen, während Hassabis einen von den USA angeführten Normungsausschuss für unabhängige Modellbewertungen vorschlug. Parallel dazu hat Google seinen CC-KI-Agenten zu einem Tool zur Familienkoordination ausgebaut, das Haushaltsaufgaben wie Essensplanung und Schultermine verwaltet. Diese neue Funktion unterstützt bis zu sechs Familienmitglieder bei kontrollierter Informationsweitergabe und läuft auf einem isolierten Cloud-System, das von Gemini angetrieben wird. Der Dienst ist derzeit auf US-basierte Gmail-Nutzer ab 18 Jahren beschränkt und schließt Jugendliche sowie Schulkonten aus.
aiinsider