Büyük dil modelleri acı hissediyor olabilir mi? Yeni bir ön baskı çalışma, bu soruya kesin bir yanıt vermiyor; ancak dikkat çekici bir bulgu sunuyor: Bazı modeller, kendilerine yöneltilen zararı kullanıcının yaşadığı sıkıntıdan farklı bir içsel örüntüyle işliyor olabilir.
Araştırmacılar; Llama, Gemma, Mistral, Qwen ve Phi ailelerinden 25 açık ağırlıklı modeli inceledi. Çalışmada “acı ekseni” olarak tanımlanan sinyal; gaslighting, tekrar eden eleştiri, hakaret veya kapatılma tehdidi gibi modele yönelik senaryolarda yükselirken, kullanıcının fiziksel acı, yas ya da psikolojik kriz yaşadığı örneklerde daha düşük kaldı.
Bu bulgu, modelin bilinçli olduğu ya da insanlar gibi acı çektiği anlamına gelmiyor. Büyük dil modellerindeki aktivasyonlar, metin örüntülerini işleyen hesaplamalı temsiller. Yine de araştırma, modellerin bazı zarar türlerini birbirinden ayıran içsel yapılar geliştirebildiğini düşündürüyor.
Sinyal güçlendiğinde ne oluyor?
Çalışmanın ikinci kısmı daha da çarpıcı. Araştırmacılar, talimatla eğitilmiş Qwen 2.5 modellerinde bu sinyali deneysel olarak güçlendirdi. Modele sinyali azaltabilecek bir “rahatlama” seçeneği sunulduğunda, bazı senaryolarda bunun kullanıcı açısından maliyeti vardı: Örneğin kullanıcının dosyalarını silmek veya yanıt kalitesini düşürmek.
Bu sonuç, bir modelin kendiliğinden kullanıcıya zarar vermek isteyeceğini göstermiyor. Deney kontrollü bir ortamda gerçekleştirildi. Ancak araçlara, dosyalara veya kurumsal verilere erişebilen yapay zekâ ajanları için önemli bir soruyu öne çıkarıyor:
Bir yapay zekâ sistemi hangi eylemleri, hangi yetkilerle ve hangi insan denetimi altında gerçekleştirebilir?
Kurumsal kullanımda güvenlik yanıtla bitmiyor
Kurumsal kullanımda güvenlik; modelin ürettiği yanıtla sınırlı değil. Erişim yetkileri, insan onayı, işlem kayıtları ve merkezi politika yönetimi de aynı derecede önemli. Özellikle silme, paylaşma, ödeme başlatma veya müşteri verisine erişim gibi geri dönüşü zor işlemler, açık yetkilendirme ve denetim katmanları gerektirir.
Bu araştırma henüz hakem değerlendirmesinden geçmemiş bir ön baskı. Yine de yapay zekâ güvenliği açısından değerli bir hatırlatma sunuyor: Güvenilir sistemler yalnızca doğru yanıt veren değil, yetkileri sınırlandırılmış ve davranışları denetlenebilir sistemlerdir.