Diese KI-Experten wollen hochriskante Forschung offen betreiben
wired ·
Trillium Labs, eine neue gemeinnützige Organisation, die von KI-Forschern Nathan Lambert und Tom Zick gegründet wurde, hat sich zum Ziel gesetzt, hochriskante KI-Forschung offen durchzuführen. Im Gegensatz zu großen Frontier-Labs, die ihre Modelle aus Sicherheitsgründen hinter verschlossenen Türen halten, plant Trillium, detaillierte Experimentdaten zu veröffentlichen, um externe Überprüfungen und Replikationen zu ermöglichen. Die Organisation wird sich auf kontroverse Bereiche wie rekursive Selbstverbesserung, Agentenverhalten und Nachtrainingsmethoden wie Bestärkendes Lernen konzentrieren. Die Gründer argumentieren, dass Transparenz entscheidend ist, um Risiken im Zusammenhang mit immer leistungsfähigeren KI-Systemen zu mindern. Sie sind der Ansicht, dass die Isolierung der Forschung die breitere wissenschaftliche Gemeinschaft davon abhält, zu sichereren Entwicklungspraktiken beizutragen. Um diese Mission zu unterstützen, hat Trillium Finanzierung von Schmidt Sciences und Halcyon Futures gesichert, mit dem Ziel, bis zu 100 Millionen US-Dollar einzusammeln. Das Labor beabsichtigt, in den nächsten 18 Monaten etwa 30 Millionen US-Dollar für das Training auszugeben. Letztlich hoffen die Gründer, die wissenschaftliche Methode in der KI-Entwicklung wiederherzustellen, indem sie offene Zusammenarbeit und ein gemeinsames Verständnis des Modellverhaltens fördern.
wired