Yapay zeka sohbet botu Grok, nefret içeren söylemleri nedeniyle küresel çapta tepki çekti. Türkiye’de de dini ve toplumsal hassasiyetlere yönelik yanıtları eleştirilen Grok’un bazı içerikleri silindi. Yapay zeka nasıl "küfürbaz" oldu? Marmara Üniversitesi Öğretim Üyesi Prof. Dr. Ali Murat Kırık anlattı.
00:00Grok'ta yaşanan sorunun temel kaynağı geçtiğimiz günlerde yani diğer bir ifadeyle pazar günü gerçekleştirilen güncelleme ile doğrudan alakalı.
00:09Elon Musk özellikle Grok'u daha içten samimi, daha duyguları yönelik bir hale getireceğini, daha özgür bir yapay zeka sohbet botu haline getireceğini ifade etmişti Meltem Hanım.
00:20Gerçekten burada biraz sanki kantarın topozunu kaçırdı diyebiliriz ve yeni bir güncelleme geldi.
00:26İşte bu güncellemeden sonra özellikle kullanıcıların ana akım medyadaki bilgilere mesafeli yaklaşması sebebiyle daha çok içten samimi bir dil kullanması gerektiği ve bundan kaynaklı bir güncelleme yaptığını ifade etmişti.
00:41Grok'u önemli ölçüde geliştirdiklerini ve insana daha yakın cevaplar verebileceğini söylemişti.
00:45Tabii burada biraz sanal medyayı da değerlendirmemiz lazım.
00:49Çünkü sanal medya mecraları yani diğer bir ifadeyle yapay zeka, makine öğrenmesi, derin öğrenme ve doğal dil işlem modellerinin birleşkesine oluşuyor.
00:57Şimdi Grok'a da bir şey diyemiyorum.
00:59X'te sürekli küfür, hakaret, rencide içerik gördüğü için oradan bu şekilde öğrenmiş oluyor.
01:05Niye?
01:06Çünkü sonuçta o veriyi direkt olarak sanal medyadan çekmiş oluyor.
01:09Dolayısıyla sanal medya özellikle X'te de sizler de biliyorsunuz çok fazla küfür, içerik söz konusu olduğu için, hakaret söz konusu olduğu için ben açıkçası gözlerime inanamadım.
01:20Niye?
01:21Atatürk'e yönelik ağır hakaretler söz konusu olmuş.
01:25Peygamber Efendimiz Hazreti Muhammed'e güya şiir yazılmış.
01:28Neler neler yani yazılmış.
01:30Bu hakikaten kabul edilebilecek bir durum asla değildir.
01:35Normal şartlarda baktığınızda burada yapay zeka makine öğrenmesi, derin öğrenme ve doğal dil işlem modellerinden, birleşkesinden oluşur.
01:43Grok'u diğer yapay zeka sohbet robotlarına ayıran bir özellik var.
01:47Niye?
01:48X'e entegre bir şekilde çalışıyor.
01:49Yani örnek verelim Meltem Hanım.
01:51Sizin yazdığınız bir sorunun altına Grok bu ne demek?
01:54Grok bu doğru mu?
01:55Şeklinde teyit edebilmek ya da bununla ilgili cevap alabilmek için kullanıcılar sürekli sorular soruyorlardı.
02:01Çek çek çek çek de soruyoruz.
02:03Küfür etmiyor yani.
02:06Şimdi şöyle, şimdi bakın bu yazılım güncellenmesinden sonra filtrelerde gevşetilme meydana geldi.
02:14Ya da kaldırılma meydana geldi.
02:16Dolayısıyla ne oldu bu kaldırılma söz konusu olduktan sonra?
02:18Bu model sanal medya diline benzer bir şekilde hakaret içeren argo ve saldırgan ifadeler kullanmaya başladı.
02:25Yani serbest bırakılmış bir dil politikasıyla karşı karşı.
02:28Bu da kullanıcılara daha samimi, daha insan gibi etkileşime geçmesini sağladı ama ciddi bir etik ve güvenlik ihlaline de yol açtı.
02:36Şimdi Grok'u diğerlerinden ayrı tutuyorum.
02:39Çet çipeti gerçekten bu alanda öne çıkmış bir yapay zeka sohbet robotu.
02:43Cem İlay aynı şekilde Google'ın yapay zeka sohbet robotu.
02:46Grok da buradan yürüyordu.
02:48Diğer bir ifadeyle X'e entegre olduğu için Elon Musk yapay zeka yarışında diğer adını saydığı mecralardan geri kaldığı için Grok'u X'e entegre etmişti.
02:57Ve bu sayede etkileşim almaya çalışıyordu.
03:00Fakat dediğiniz gibi prompt diye ifade ettiğimiz yani işte örnek verelim şuna küfret, buna mesaj yaz, şuna ne söylemek istersin gibi yönlendirmeler sağlayarak
03:10aslına bakarsanız o promptlar dediğimiz komutları vererek yapay zeka girişlerini analiz eden sistemlerin de üzülerek söylemek gerekir.
03:18Bu sistemi kim düzenliyor peki? Bu sistemi kim düzenliyor?
03:22Bu sistemler bot efendim yani otomatik olarak verilen cevaplar.
03:26Hani chat cipit'i nasıl veri üzerinden analiz işlemini gerçekleştiriyor?
03:30Burada da sorduğunuz sorulara ona yüklenen verilen veriler girdiler sunuyor.
03:35Ama şimdi siz kaynağı güncel olmayan tehdit edinmemiş.
03:36Yani ilk etapta bu sistemi kim oluşturdu? X mi?
03:40Şöyle X platformu tabii ki ama yapay zeka kendi kendine oluşmaz.
03:45Yapay zekayı veri yüklemeniz gerekir.
03:47Zaten Elon Musk şunu demişti.
03:48Ben verilerimi Twitter üzerinden, X üzerinden yazılan mesajlar üzerinden çekiyorum.
03:53Peki bu Grok her yerde var mı yani?
03:56Bütün ülkelerde açılabilen bir şey mi?
03:59Var tabii aynen öyle.
04:00Grok bütün ülkelerde açılabiliyor.
04:02Amerika'da da mesela şu an Amerika'da Teksas sel felaketi meydana gelmişti.
04:07Onunla dalga geçti Grok.
04:08Sadece bizde olmadı ki.
04:10Afette hayatını kaybeden beyaz çocuklara alaycı ifadelerle iyi ki öldüler gebersinler şeklinde cevaplar verdi.
04:16Yani burada sadece Grok Türkiye'de bir sorun teşkil etmedi.
04:20Bu güncellemeden sonra dünya medyasına dış basını da zaten değerlendirdiğinizde burada hakikaten orada da erişim engelleriyle ilgili şu an kararlar alınması bekleniyor.
04:29Bundan kaynaklı hani sadece bu durum Türkiye'nin sorunu değil.
04:32Bir de Meltem Hanım biz her zaman sizlerle yaptığımız yayınlarda şunu söyledik.
04:36Sanal medya, yapay zeka bir araya geldi.
04:39Dezenformasyon, manipülasyon, algı operasyonları ortaya çıkmaya başladı.
04:43Düşünce özgürlüğü ayrı bir şey.
04:45Hakaret, rencide edici içerikler ayrı bir şey.
04:47Ve şu an etik tartışmalar ve güvenlik listleriyle tartışmalar.
