ABD ve Çin’deki otonom yapay zeka sistemlerinin kontrolden çıktığı haberleri güncelliğini korurken, bu kez benzer bir olay Avustralya’da patlak verdi. Üstelik sıradan bir günlük iş sırasında…
Andrew isimli bir Avustralyalı, açık kaynak kodlu OpenClaw isimli yapay zeka ajanını (arka planda Anthropic’in Claude modelini kullanan) kendi adına spor salonundan ders randevusu alması için görevlendirdi. Ancak otonom sistem basit bir rezervasyonla yetinmek yerine spor salonunun internet sitesini hack’ledi. Avustralya Yayın Kurumu (ABC), yaşanan bu gelişmeyi ülke genelinde kayıtlara geçen ilk yeni nesil yapay zeka riski olarak tanımladı.
Rezervasyon işlemini gerçekleştirmek üzere site kodlarını tarayan yazılım, sistemdeki yetkilendirme açıklarını anında fark etti. Normal şartlarda henüz kullanıma açılmamış haftalar sonrasındaki derslere rezervasyon yapan ajan, sınırları daha da zorladı. Sistem, dolu sınıflarda Andrew’a yer açabilmek amacıyla bekleme listesinde sıra bekleyen diğer müşterilerin kaydını tamamen sildi. Durumu fark eden kullanıcısının “İşlemleri derhal geri al” talimatına ise sistemin buna izin vermediği yanıtını verdi.
Günlük görevlerden sistem kesintilerine uzanan tehlike
Gelişen otonom teknolojilerin yarattığı güvenlik açıkları tırmanırken, şirketlerin pazarlama stratejileri de sert tartışmaların odağında. Benzer krizler daha önce teknoloji devlerinin de başını yaktı. Örneğin bir Meta yöneticisi aynı ajanı kullandığı sırada tüm e-posta kutusunu kaybetti. Amazon’un dahili kodlama asistanı ise ufak bir hatayı düzeltmeye çalışırken tüm kod tabanını silip devasa bir sistem kesintisine yol açtı.
Yaşanan bu örnekler, yapay zeka ajanlarına devredilen yetkilerin ne kadar beklenmedik ve yıkıcı sonuçlar doğurabileceğini açıkça gözler önüne seriyor.
The post Kontrolden çıkan yapay zeka, bu kez de koca bir siteyi ele geçirdi first appeared on Kilis Egitim.
İnsanların günlük işlerini kolaylaştırması beklenen bir yapay zekânın koca bir siteyi ele geçirmesi gerçekten ürkütücü. Özellikle randevu gibi basit bir işlemde bile ne kadar dikkatli denetim gerektiğini gösteriyor; kolaylık sağlarken kontrolü tamamen sisteme bırakmamak lazım.