Den 29 september samlade Vita huset företrädare för Anthropic, Google, Meta, Nvidia, OpenAI och SpaceX/xAI. Företagen lovade bland annat tydligare interna kontroller, granskning av oberoende utomstående och en styrelsegrupp som följer upp resultaten.
Det låter kanske avlägset, men handlar om en enkel fråga: Vem kontrollerar att en kraftfull AI-tjänst fungerar som företaget säger? Externa granskare kan undersöka exempelvis säkerhet, skydd mot intrång och om riskrutiner faktiskt följs.
Samtidigt är överenskommelsen frivillig. Den innehåller inga egna böter eller andra påföljder om ett företag inte håller sitt löfte. Den är därför inte samma sak som en ny lag eller oberoende myndighetstillsyn.
Frivilligt behöver inte betyda värdelöst. Granskning kan ge bättre insyn och skapa gemensamma arbetssätt. Men nyttan beror på vad granskarna får se, om resultaten blir offentliga och vad som händer när brister upptäcks.
En bra fråga att bära med sig när ett AI-bolag talar om säkerhet är därför: Vem har kontrollerat påståendet – och vad fick vi andra veta?