Google’ın yapay zeka chatbot’u Gemini, yakın vakitte yaşanan enteresan bir olayla tekrar gündem oldu. ABD’de yaşayan 29 yaşındaki bir öğrenci, Gemini’den dersleriyle ilgili yardım isterken rahatsız edici ve tehditkar bir ileti aldı. Chatbot, kullanıcıya “sen bir yüksün, cihan için bir utanç kaynağısın, lütfen öl” üzere tabirler içeren bir bildiri gönderdi. İşte detaylar…
Gemini ödev yapan öğrenciye “Sen bir utanç kaynağısın, lütfen öl!” dedi
Aslında yaşanan olay birinci hadise değil. Reddit kullanıcıları, emsal sıkıntıların daha evvel de yaşandığını argüman etti. Google yetkililerinden de yanıt gecikmedi. Şirket: “Bu cins olayların tekrar yaşanmasını engellemek için gerekli tedbirleri aldık” açıklamasında bulundu. Fakat yapılan açıklamalara karşın, yapay zekanın denetimi konusundaki tasalar sona ermiş değil.
Uzmanlar uyarıyor
Bu cins yapay zeka yanlışlarının bilhassa gençler ve ruhsal olarak hassas bireyler için önemli bir tehdit oluşturabileceği belirtiliyor. Bir araştırma, 12-18 yaş ortasındaki öğrencilerin %50’sinin eğitim emelli olarak ChatGPT üzere yapay zeka araçlarını kullandığını gösteriyor. Ancak ne yazık ki bu kullanım, ekseriyetle ebeveynlerin ve öğretmenlerin bilgisi dışında gerçekleşiyor. Yani ne kadar tedbir alınsa da yapay zeka ortada bir ne kadar tehlikeli olduğunu hatırlatmaya devam ediyor.
Bu tıp rahatsız edici olaylar, yapay zekanın beşerlerle inançlı bir formda nasıl etkileşim kuracağı konusundaki tartışmaları tekrar alevlendirdi. Her ne kadar güvenlik filtreleri bulunsa da, bu olaylar yapay zekanın hala birçok sorunu olduğunu ve bu alanın daha fazla geliştirilmesi gerektiğini unutmamak gerek. Siz ne düşünüyorsunuz?
Bir yanıt yazın