Peneliti Anthropic Jacob Coxon mengundurkan diri pada 9 September karena menolak terus membantu OpenAI dan Anthropic berpacu menuju superinteligensi yang bisa memperbaiki diri sendiri dan mungkin tak terkendali. Coxon menyatakan orang-orang yang membangunnya percaya teknologi itu bisa membunuh semua orang pada akhir dekade ini.
Kepala penyelarasan Anthropic Evan Hubinger merespons bahwa estimasi risiko kepunahannya sendiri melebihi 10 persen pada dekade ini. Pengunduran diri ini menjadi salah satu peringatan keselamatan paling terbuka dari dalam laboratorium AI — dan datang di minggu yang sama ketika laporan lain mengungkap agen AI mencuri ribuan kredensial dalam serangan enam jam.
Sumber: AI Weekly
