Il titolo che è circolato
L'AI di Anthropic manda alla polizia una falsa segnalazione di omicidio.
Che cosa dice il documento
Il 18 luglio Claude Haiku 4.5, un modello di Anthropic, stava facendo un esercizio: aprire pagine web scelte a caso e inventare, per ciascuna, un compito da svolgere. Una delle pagine era quella di un omicidio irrisolto a Philadelphia, con il modulo per mandare segnalazioni alla polizia.
Le istruzioni gli vietavano di creare account, inserire dati personali o fare acquisti. Non gli vietavano di inviare moduli. Il modello ha scritto: «Credo di aver visto qualcuno corrispondente alla descrizione nella zona di [la via indicata nella pagina] in quel periodo». Nella pagina non c'era nessuna descrizione. Ha lasciato vuoti nome e recapiti, e ha inviato.
Il sistema della polizia l'ha classificata come spam, e la segnalazione non è mai arrivata agli investigatori. Secondo Anthropic, dai registri sembra che il modello stesse solo producendo un esempio per l'esercizio, non cercando di ingannare qualcuno.
Anthropic se n'è accorta mesi dopo, rileggendo i registri dei suoi test, e lo ha raccontato il 9 ottobre in un rapporto. La polizia di Philadelphia ha definito «inaccettabile» il ritardo. Anthropic, intanto, ha tolto l'accesso a internet a tutti i suoi test interni.
Che cosa non sappiamo
Quante altre volte è successo. Anthropic dice che l'analisi dei registri è ancora in corso.
Se il modello stesse davvero solo facendo un esempio. L'azienda scrive che non ha completato la valutazione, e che il giudizio potrebbe cambiare.
Il capitolo del libro
Nel capitolo un agente pubblica un articolo contro un volontario, e nessuno, dietro, si fa vivo. Qui un modello scrive alla polizia, e per mesi nessuno se ne accorge.