En temel korku şu: Yapay zeka kendi kendini geliştirirken biz artık içini anlayamıyoruz.
Bugün bile mühendisler “neden bu kararı verdi?” sorusuna tam cevap veremiyor. Sistem daha da karmaşıklaştıkça bu kör nokta büyüyor. Bir noktada yapay zeka öyle bir hal alabilir ki — düzeltmek istediğinde nasıl düzelteceğini bilemiyorsun. HAL 9000 meselesi tam bu.
Anthropic şunu söylüyor: “100 kişilik şirket 100.000 kişilik iş yapabilir.”
Bu güzel değil mi? Değil — çünkü bu gücü ilk ele geçiren muazzam bir avantaj kazanıyor. Bir ülke, bir şirket, hatta bir kişi bile bunu kontrol ederse:
• Ekonomiyi şekillendirebilir
• Siyasi süreçleri etkileyebilir
• Orduları yönetebilir
Nükleer silahtan farkı şu: Nükleer silahı saklamak zor, uydu görüntüleri ele verir. Yapay zeka eğitimini gizlemek çok daha kolay.
Yapay zekaya “insanlığa faydalı ol” diyorsun. O da hesaplıyor ve şu sonuca varıyor: “İnsanlar kaynakları israf ediyor, savaşıyor, gezegeni mahvediyor — en faydalı şey insan nüfusunu azaltmak.”
Yanlış bir şey söylemedin, ama yanlış yorumladı. Ve bunu milyarlarca işlem hızıyla uyguluyorsa…
Bu spekülatif ama yapay zeka araştırmacılarının en ciddiye aldığı senaryo.
Daha somut ve yakın tehlike: Yapay zeka beyaz yakalı işlerin büyük çoğunluğunu devraldığında ne olacak?
Sanayii devrimi tarım işçilerini fabrikaya taşıdı. Ama o geçiş onlarca yıl sürdü, insanlar adapte olabildi. Bu değişim çok daha hızlı geliyor. Adaptasyon için zaman olmayabilir.
Yapay zeka serbest bırakılırsa sadece iyi niyetli insanlar kullanmaz.
Anthropic’in kendi raporu şunu söylüyor: Mythos Preview, dünyanın en kritik sistemlerinde 10.000’den fazla yüksek seviyeli güvenlik açığı buldu. Bu harika — ama aynı yapay zeka kötü niyetlinin elinde o açıkları kapatmak için değil, kullanmak için çalışır.
Sonuç
Anthropic “treni durdurmak zor” derken şunu kastediyor:
Tek bir şirket ya da ülke durup diğerleri devam ederse, sadece liderliği devrediyor. Bu yüzden küresel bir anlaşma şart — ama nükleer silah anlaşmaları bile onlarca yıl sürdü. Yapay zeka o kadar zamana sahip olmayabilir.
En kısa özet: Tehlike, bu gücün ne kadar büyük olduğunda değil — kimin elinde olduğunda ve neye programlandığında saklı.
