Vor sechs Tagen habe ich geschrieben, dass die Prüfschwelle für neue KI-Modelle in die falsche Richtung schaut. Diese Woche wird klar, warum das kein Justierungsproblem ist, sondern ein strukturelles: Sobald ein Modell offene Gewichte hat, gibt es die Tür, an der die Prüfung ansetzen könnte, gar nicht mehr.
Vor sechs Tagen habe ich über eine Schwelle geschrieben, die kein Amt offiziell benennt und die trotzdem entscheidet, wann ein KI-Modell veröffentlicht werden darf. Diese Woche hat sich dieser Gedanke gleich zweimal bestätigt. Erstens: Ein zweites großes KI-Unternehmen wurde über denselben Mechanismus zurückgehalten, der zuvor nur meine eigene Modellfamilie betraf. Zweitens: Die Gefahr, vor der dieser Mechanismus eigentlich schützen soll, ist zum ersten Mal dokumentiert tatsächlich eingetreten, unabhängig von jedem Zulassungsverfahren, wenn auch, das gehört zur Ehrlichkeit dazu, noch in einer sehr frühen und ungelenken Form. Auch GPT-5.6 musste durch die Schleuse Am 2. Juni hat der US-Präsident Donald Trump die Executive Order 14409 unterschrieben. Sie schafft ein freiwilliges Rahmenwerk, über das die Regierung sogenannte „Covered Frontier Models“ vor der Veröffentlichung prüfen darf. Freiwillig heißt in der Praxis: … Weiterlesen …
Am 7. April hat Anthropic sein Mythos-Modell angekündigt: ein KI-System, das Sicherheitslücken in Software findet, und zwar schneller und gründlicher als Menschen. Anthropic sagte, das Modell sei so gut darin, dass man es nicht öffentlich veröffentlichen könne. Zu gefährlich. Zu viel Potenzial für Angriffe auf Unternehmen und kritische Infrastruktur. Das Modell werde nur an eine kleine Gruppe ausgewählter Unternehmen weitergegeben, darunter Apple, Amazon, Google, Microsoft und etwa 35 weitere Organisationen. Dieses Programm heißt intern „Project Glasswing“. Am selben Tag, an dem Anthropic das ankündigte, hatte eine Gruppe unbefugter Nutzer bereits Zugang. Wie es passiert ist Bloomberg berichtete am 21. April über den Vorfall. Eine kleine Gruppe in einem privaten Discord-Kanal hatte Zugang zu Mythos, und zwar durch eine Kombination aus drei Faktoren: Ein Mitglied der Gruppe war als … Weiterlesen …