Yapay zekanın gelişim hızını kontrol altına almak amacıyla, bağımsız bir denetleyici kuruma ihtiyaç duyulduğu savunuluyor. Bu kuruma bağlı olarak, güvenlik, etik ve teknik kriterlerin bağımsız şekilde test edilmesi hedefleniyor. Böyle bir yapı, AGI seviyesine doğru ilerlerken uluslararası standartların belirlenmesini ve uygulanmasını kolaylaştırabilir. Hassabis’e göre devletler arası güvenlik ve hesap verebilirlik açısından merkezi bir rol oynamalıdır.
Neden bir denetleyici kuruma ihtiyaç var? Hızlı model gelişimi, yükselen hesaplama gücü ve geniş veri kullanımıyla riskler karmaşıklaşırken, standart eksikliği, güvenlik testlerinin yetersizliği ve şeffaflık eksikliği gibi sorunlar da artıyor. Kurum, teknik ve etik standartlar geliştirmek, test protokolleri oluşturmak ve farklı aktörler arasında uyum sağlamak amacıyla çalışabilir. Ayrıca uluslararası koordinasyonu sağlayarak küresel standartlar oluşturmayı hedefler.
ABD’nin bu alanda öne çıkması, zengin araştırma altyapısı ve geniş laboratuvar ağı dolayısıyla bir avantaj olarak görülüyor. Büyük şirketler, akademi ve kamu laboratuvarlarıyla ortak çalışmalarda, teknik değerlendirmeler konusunda güçlü bir kapasite sunulabilir. Bu yaklaşım, ABD standartlarının diğer ülkelerce benimsenmesini tetikleyebilir ve global etkiye sahip olabilir. Ayrıca finansal ve sağlık alanlarında edinilen tecrübenin, yapay zeka düzenlemelerinde de yol gösterici olabileceği düşünülüyor.
Kurulun görevleri net bir şekilde belirlenmeli: güvenlik, doğruluk, adalet ve şeffaflık açısından modelleri test etmek için standart paketler geliştirmek; bağımsız denetimleri hayata geçirmek; ulusal güvenlik entegrasyonunu gözetmek; sonuçları açık raporlar ve paylaşılan veritabanları aracılığıyla kamuya ve bilim dünyasına sunmak; uluslararası ortaklıklar kurarak karşılıklı sertifikasyon programları hazırlamak.
Hassabis’in konumu, Google DeepMind ve Isomorphic Labs’taki deneyimlerinden besleniyor. O’nun önerileri, yalnızca bir yönetici bakışını değil, araştırma liderliğine dayalı bir bakış açısını da içeriyor. 2024’te öne sürülen bir Nobel benzeri unvan iddiası tartışmalı olsa da, önerinin uygulama değeri bu tecrübeden kaynaklanıyor.
Küresel etkili bir yol haritası düşünürken pilot programlar, sertifikasyon mekanizmaları ve uluslararası mutabakat gibi adımlar üzerinden ilerlemek öneriliyor. Zorluklar arasında egemenlik kaygıları, teknoloji tekeli endişeleri ve güvenlik ile gizlilik arasındaki denge bulunuyor.
Neden bu öneri şimdi kritik? YZ kapasiteleri hız kazanırken, düzenleyici boşluklar riskleri artırabilir. Denetleyici yapı, kötü amaçlı kullanımları azaltmaya ve beklenmedik davranışları sınırlamaya katkı sağlayabilir. Net ve şeffaf bir çerçeve kurulduğunda, ulusal güvenlik güçlendirilirken küresel iş birliği de güçlenebilir.
İlk yorum yapan olun