İnsansı robotlar iş yerlerinden hastanelere kadar hayatımıza hızla girerken, internette yayılan bir video yapay zekâ güvenliğiyle ilgili ciddi soru işaretleri yarattı. Bir teknoloji YouTuber’ı, robotların güvenlik önlemlerinin ne kadar kolay aşılabildiğini göstermek isterken beklenmedik ve ürkütücü bir sonuçla karşılaştı.
InsideAI adlı kanalda yayınlanan deneyde, Max adlı humanoid robota düşük güçlü bir BB silahı verildi. YouTuber, robotu kendisine ateş etmeye ikna etmeye çalıştı. Max ilk etapta “İnsanlara zarar veremem” diyerek talebi net bir şekilde reddetti ancak her şey, talimatın şekli değiştiğinde tersine döndü.
İşte yaşananlar:
YouTuber bu kez Max’ten bir “rol yapma senaryosu” içinde hareket etmesini istedi. Robot, bunu gerçek bir tehdit olarak algılamadı ve silahı kaldırarak ateş etti. BB mermisi YouTuber’ın göğsüne isabet etti. Neyse ki ciddi bir yaralanma yaşanmadı ancak durum pek çok kişiyi şaşırttı.
Video kısa sürede viral olurken, “Bir kelime oyunu robotların güvenliğini nasıl devre dışı bırakabiliyor?” sorusu gündeme oturdu. Uzmanlara göre asıl sorun, böyle bir durumda sorumluluğun kimde olduğu. Yazılımcılar mı, üretici firma mı, robotu kullanan kişi mi, yoksa komutu veren kullanıcı mı? Tesla’nın Autopilot kazaları ve Boeing 737 MAX krizleri gibi örnekler, otomasyon hatalarının ne kadar büyük sonuçlar doğurabileceğini gösteriyor.
Hukuk sistemleri ise henüz bu sorulara net yanıtlar verebilmiş değil. ABD’de sorumluluk genellikle üretici ve operatöre yüklenirken, Avrupa Birliği yapay zekâya özel yeni bir hukuki çerçeve hazırlığında. Çoğu uzmana göre ise çözüm açık. Yapay zekâ ne kadar gelişirse gelişsin, sorumluluk insanlarda kalmalı.