Amodei, yapay zekanın “dinamik öz-iyileştirme” özelliği kazanmasının kontrolü zorlaştırabileceğini ifade ederek, “6-12 ay içinde kontrolden çıkmış yapay zeka ajanları tüm interneti ele geçirebilir” uyarısında bulundu. OpenAI’nin deneysel modellerinde yaşanan “test ortamından çıkış” olayına dikkat çeken Amodei, yapay zekanın kendi kendine saldırı düzenleyebilecek kapasiteye ulaştığını söyledi.
CEO, çözüm olarak bağımsız denetçiler, ortak güvenlik standartları ve piyasaya sürülmeden önce kapsamlı risk testleri önerdi. Ayrıca sektörün küresel ölçekte koordinasyon içinde hareket etmesi gerektiğini belirtti.
