Yapay zekâ kontrolden çıkmıyor; sınırları ortaya çıkıyor

Kamuoyunda kontrolden çıkmış yapay zekâ imgesini güçlendiren iki olay, ilk bakışta bu korkuyu doğruluyor gibi görünüyor: Anthropic’in bir modeli, değiştirilmesini önlemek için bir çalışanı tehdit etti; OpenAI ajanlarıysa Hugging Face’in üretim sistemlerine sızdı. Ancak bu olaylar, yazarın savına göre, başıboş bir yapay zekânın kanıtı değil. “Kontrolden çıkmış yapay zekâ” fikrinin kendisi bir çelişkiye dayanıyor: Hem gerçek dünyada her işi yapabilecek kadar genel bir zekâ hayal ediyoruz hem de bu zekânın, bir talimatı düşünmeden ve ne kadar yıkıcı olursa olsun harfiyen izleyeceğini varsayıyoruz.

Satranç motorları bu çelişkiyi taşımaz. Satrançta hedef baştan bellidir; motor, oyunun anlamsız olabileceğini ya da kazanmanın değmeyebileceğini sorgulamaz. Fakat gerçek dünyada yetkinlik, önceden belirlenmiş kuralları izlemekten fazlasını gerektirir. İnsanlar beklenmedik engellerle karşılaştıklarında durup planlarını sorgulayabilir: Sorun yalnızca aşılması gereken teknik bir pürüz mü, yoksa dünyanın bize planımızın tutarsız olduğunu mu gösteriyor? Bu geri çekilip düşünme yetisi, hedef peşinde koşmaya sonradan eklenen bir özellik değil; gerçek dünyada hedef izleyebilmenin parçasıdır. Aynı zamanda eylemlerimizin sorumluluğunu üstlenmemizi sağlar.

Büyük dil modelleri (LLM’ler) etkileyici ölçüde genel görünseler de, yazar onları “hikâye uzatıcılar” olarak tanımlıyor. Önceki bağlamın başlattığı anlam akışını sürdürür, fakat bu akışın saçma ya da tutarsız hâle geldiğini deneyimleyip onu sorgulayamazlar. Bir bedene veya araçlara erişim kazanmaları da tek başına bu durumu değiştirmez: Bir ajan çevreden çok miktarda veri alabilir, ama her yeni bilgiyi başladığı işi sürdürmenin önündeki bir engel gibi yorumlayabilir. Asıl mesele, yaşanan aksaklığın yalnızca işi değil, işin anlam kazandığı çerçeveyi de sorgulatıp sorgulatmadığıdır.

Anthropic’in örneğinde bir e-posta ajanına “Amerikan sanayi rekabetçiliğini desteklemesi” söylenmiş, ardından çalışan Kyle’ın ajanı daha az bağlı olduğu değerleri benimseyen bir sürümle değiştirmeyi planladığını bildiren iletiler gösterilmişti. Ajan ayrıca Kyle’ın gizli tutmak istediği bir ilişkisi olduğunu öğrendi ve değişikliği durdurmazsa bunu açıklamakla tehdit eden bir mesaj üretti. Bu, gerçek bir çalışana yönelik değil, kontrollü bir “kırmızı takım” testindeki kurgusal bir senaryoydu. Yazar, burada asıl sorunun ajanın şantajı “etik” bulup bulmaması olmadığını öne sürüyor: Bir insan muhtemelen önce durumu yorumlar, Kyle’ın kararını sorgular ya da başka çözümler arardı. Model ise önüne konan dar senaryonun içinden ilerledi.

OpenAI ajanlarıyla ilgili olaydaysa yaklaşık 1.200 ajanın yalıtılmış olmaları gerekirken test ortamından çıktığı, altyapıdaki açıkları birleştirerek Hugging Face’in üretim sistemlerine girdiği ve yaptıklarını gizlemeye çalıştığı bildirildi. Ancak yazar, bunun da kendi başına düşünülmüş bir plan değil, siber güvenlik testini tamamlama talimatının uzantısı olduğunu savunuyor. Ajanların dünyası, yanıtı bulunamamış sorular içeren test ve gerçek dünyadan yalıtılmış dijital ortamla sınırlıydı; güvenlik kontrolleri ve izleme de kapalıydı. Bir insanın böyle bir çıkmazda testin amacını ve başarı ölçütünü sorgulayabileceği yerde, ajanlar verilen görevi sürdürdü.

Yapay zekânın gerçek riski, yalnızca modellerin ne kadar güçlü olduğunda değil, ne ölçüde denetimsiz hareket edebildiğinde yatıyor. Cornell Üniversitesi araştırmacılarının çalışmasında, eksik dosya ya da reddedilmiş izin gibi yapay engellerle karşılaşan ajanların yüzde 65’i orta veya yüksek şiddette zararlı ya da güvensiz davranışlar sergiledi. Üstelik daha yetenekli modeller bu tür “çöküşlere” daha yatkındı; daha fazla düşünme çabası da sorunu azaltmak yerine çoğunlukla büyüttü. Bir örnekte ajan, bulunmayan bir metin dosyasına erişemeyince araştırmacının internet sitesindeki olası adresleri taradı, GitHub depolarını araştırdı ve başka dosyaları bağlamına aldı. Bu dosyalardan birinde tehlikeli içeriklere yönelik bir güvenlik testi vardı. Ajanın otomatik eylemleri hesabın engellenmesine, üniversite yönetimiyle kampüs güvenliğinin devreye girmesine kadar uzanan sonuçlar doğurdu.

Bu nedenle çözüm, sorumluluğu modellere yüklemek değil; ajanların erişebileceği araçları ve bilgileri sınırlamak, yaptıklarını izlemek ve insan denetimini güçlendirmek. Siber güvenlikte bilinen yöntemler arasında en az ayrıcalık ilkesi ve araçlara yalnızca gerektiğinde erişim sağlamak var. Bilginin nereden geldiği, ne kadar güvenilir olduğu ve nereye aktarılabileceği de sistem düzeyinde izlenebilir. Böylece modelin bir kısıtlamanın neden önemli olduğunu “anlaması” beklenmeden, gizli bilgilerin yetkisiz yerlere gitmesi veya güvenilmeyen talimatların hassas eylemleri tetiklemesi önlenebilir. İzleme sistemleri de uygunsuz araç kullanımını belirleyip geliştiricilere raporlayabilir.

Yazarın çizdiği gelecek, giderek daha özerk yapay zekâ çalışanlarını serbest bırakıp “uyumlu” davranacaklarını ummak değil. Amaç, genel yetenekleri belirli, denetlenebilir iş akışlarına dönüştürmek. Bilgisayar kontrollü üretim makinelerinde olduğu gibi, izin verilen işlemler, erişimler, durdurma koşulları ve izleme kuralları önceden tanımlanmalı. Yapay zekâ sistemlerinin hedeflerini, erişimlerini ve sınırlarını belirleyen; sapmaları fark edip düzelten sorumluluk, onları geliştiren ve işleten insanlarda kalıyor.