Den 18 september beskrev Anthropic ett samarbete med Accenture, där utvärderare från Faculty ska arbeta nära AI-utvecklingen. Tanken är att undersöka bland annat säkerhet och hur väl modeller följer avsedda mål.
Sådant arbete kan låta mindre spännande än en ny funktion, men påverkar vilka verktyg vi får använda. Det är svårt att förbättra det man inte mäter eller vågar ställa frågor om.
Det finns också skäl att läsa upplägget noggrant. Anthropic betalar för Accentures medverkan, och metoderna ska utvecklas vidare. Att andra personer granskar något är värdefullt, men säger inte i sig allt om hur oberoende granskningen blir.
För oss som följer AI är det här en utveckling att hålla ögonen på. Förmåga och tillit behöver växa tillsammans. Framöver blir det intressant att se vilka resultat som delas och hur granskningen faktiskt påverkar produkterna.