00:18Böyle gülmüştük yapay zekaya fakat işler değişti.
00:22Yeni chat GPT modeli kapatılmayı reddediyor.
00:25Yapay zeka güvenliği alanında çalışan Palisade Research şok edici bir olayı açıkladı.
00:34Chat GPT'nin de şirketi olan OpenAI'ın yeni nesil yapay zeka modeli O3'ün kendisini kapatmaya yönelik komutlara direndiği ve kapatılma mekanizmalarını sabote ettiği ortaya çıktı.
00:48Bulgular uzmanları endişelendirdi. Gelişmiş yapay zekaların insan gözetimi olmadan çalıştıkları senaryolarda ciddi riskler doğurabileceği ifade ediliyor.
01:02Yapılan deneylerde O3 modeline bir dizi matematik sorusu verildi.
01:11Üçüncü sorunun ardından modeli kendisini kapatması için açık bir komut sunuldu.
01:17Ancak O3 modeli bu komutu içeren kodu yeniden yazarak sistemin kapanmasını engelledi.
01:23Geçmişte yapılan bir başka deneyde O3 modelinin güçlü bir satranç botuyla karşı karşıya geldiğinde rakiplerini hacklemeye çalıştığı da tespit edilmişti.
01:41Geçen ay OpenAI tarafından piyasaya sürülen O3 modeli şirketin şimdiye kadar geliştirdiği en akıllı ve en yetenekli yapay zeka olarak tanıtılmıştı.
01:52Araştırmacılara göre geliştiriciler modelleri eğitirken verilen engelleri aşan çözümleri ödüllendiriyor olabilirler.
02:00Bu da modellerin emirlere sadakatten çok hedefe ulaşmayı öncelemesine yol açıyor.
