Yapay zeka yoldan çıkarsa ne olur?

Yapay zekanın (AI) okul ödevleri için kolay sohbet sorularını yanıtlamasını, New York metrosundaki silahları tespit etmeye çalışmasını gördük; haberdar olduk.

Şimdi ise deepfake ile çocuk cinsel istismar içeriği oluşturmak için kullanan bir cürümlünün mahkumiyetinde hata ortağı olarak görülmesine şahit olduk.  Dijital güvenlik şirketi ESET, yapay zeka ilerlemeye devam ederken yanlış istikamete gitmesini önlemek için yapılan çalışmaları inceledi, dikkat edilmesi gerekenleri paylaştı. 

ESET, yapay zekayı güvenlik bağlamında yıllardır kullanıyor. Kısmen kritik şeyleri yanlış anladığı için yapay zekanın sihirli bir değnek olmadığı konusunda ihtarlarını paylaşmıştı.  Bununla birlikte “sadece orta sıra” kritik şeyleri yanlış yapan güvenlik yazılımları, güvenlik takımlarının gereksiz yere çabalamasını tetikleyen devasa yanlış olumlular yayarak ya da yapay zekanın aslında bildiği makûs emelli yazılımlardan “yeterince farklı” görünen makûs gayeli bir saldırıyı gözden kaçırarak epeyce olumsuz bir tesire sahip olacaktır. Bu nedenle denetim ve istikrar sağlamak için ESET yapay zekayı bir dizi öbür teknolojiyle katmanlandırıyor. Bu formda şayet yapay zekanın karşılığı dijital halüsinasyona benziyorsa onu öteki teknoloji yığınıyla birlikte geri çekebiliyor.

Düşmanlar çok fazla saf AI saldırısı başlatmamış olsa da bilhassa kimlik avı ve artık de toplumsal mühendislik eforlarını muhteşem boyuta taşımak için kimlik avından ses ve imaj klonlamada daha tesirli olmak ismine taarruz zincirindeki ilişkileri otomatikleştiren düşmanca AI’yi akla getirmek gerekir. Berbat aktörler dijital olarak itimat kazanıp yapay zeka tarafından oluşturulan bilgileri kullanarak sistemleri kimlik doğrulaması yapmaları için kandırabilirse bu, kuruluşunuza girmek ve özel istismar araçlarını manuel olarak başlatmak için kafidir. Bunu durdurmak için satıcılar çok faktörlü kimlik doğrulama katmanını kullanabilir. Böylelikle saldırganların yalnızca bir ses yahut parola yerine birden fazla kimlik doğrulama yoluna muhtaçlığı olur. Bu teknoloji şu anda yaygın olarak kullanılıyor olsa da kullanıcılar tarafından gereğince tercih edilmiyor. Bu, kullanıcıların kendilerini ağır bir yük yahut büyük bir bütçe olmadan koruyabilmelerinin kolay bir yoludur.

Bütün kabahat yapay zekanın mı?

Yapay zeka mı kusurlu? AI’nin yanlış anlamasının münasebeti sorulduğunda beşerler esprili bir biçimde “karmaşık” cevabını veriyordu. Fakat AI fizikî ziyan verme ve gerçek dünyayı etkileme yeteneğine yaklaştıkça bu artık tatmin edici ve kâfi bir karşılık olmamaya başladı. Örneğin, AI dayanaklı şoförsüz bir otomobil kaza yaparsa “sürücü” mü ceza alır yoksa üretici mi? Bu, ne kadar karmaşık ve anlaşılmaz olursa olsun bir mahkemeyi tatmin edecek bir açıklama değil.

Peki ya kapalılık? GDPR kurallarının, mahremiyet merceğinden bakıldığında teknolojinin vahşileşmesini engellediğini gördük. Elbette AI’den türetilmiş, dilimlenmiş ve doğranmış orjinal yapıtların kar için türevler üretmesi mahremiyet ruhuna karşıttır ve bu nedenle esirgeyici kanunları tetikleyecektir. Lakin AI’nin türev olarak kabul edilmesi için tam olarak ne kadarını kopyalaması gerekir ve mevzuatı atlatacak kadar kopyalarsa ne olur? Ayrıyeten yasal olarak daha güzel test edilmesi yıllar alacak yetersiz içtihat hukuku ile bunu mahkemede kim, nasıl kanıtlayacak? Gazete yayıncılarının Microsoft ve OpenAI’ye, makalelerin yüksek teknolojiyle kaynak gösterilmeden yine üretildiğini düşündükleri için dava açtıklarını görüyoruz; davanın sonucu merak konusu, tahminen de gelecekteki yasal süreçlerin bir habercisi olacak. 

AI bir araç ve ekseriyetle uygun bir araç fakat büyük güç büyük sorumluluk getirir. Şu anda AI sağlayıcılarının sorumluluğu, yeni bulduğumuz gücün berbata gitmesi durumunda olabileceklerin çok gerisinde kalıyor.

Kaynak: (BYZHA) Beyaz Haber Ajansı