Open AI firması tarafından geliştirilen bir yapay zeka modeli kendisine verilen "kendini kapatmaya izin verme" komutunu bypass etti. Uzmanlar kodu değiştirerek kapatılmaktan kurtulan "O3" model yapay zekayı inceliyor. https://haberglobal.com.tr/bilim-teknoloji/yapay-zeka-bagimsizligini-mi-ilan-ediyor-insan-gozetimi-olmazsa-durum-endise-verici-noktalara-ulasabilir-449562
00:00Open AI firması tarafından geliştirilen bir yapay zeka modeli, kendisine verilen kendini kapatmaya izin verme komutunu bypass etti.
00:10Uzmanlar kodu değiştirerek kapatılmaktan kurtulan O3 model yapay zekayı inceliyor.
00:19Yapay zeka sonunda insanlara başkaldırdı. Kendini kapatma komutunu reddeden yapay zeka modeli endişe yarattı.
00:26O3 adlı model Open AI firması tarafından geliştirildi. Programcılar tarafından bugüne kadarki en zeki ve becerikli yapay zeka olarak tanımlanıyor.
00:36Yaşanan son olaysa bunu hem kanıtlayacak hem de endişe yaratacak cinsten.
00:40Yapay zeka güvenlik firması Pelisade Research, O3 modeline bir dizi görev tamamlaması ardından da kapatılma komutuna izin vermesi talimatı verdi.
00:49Ancak yapay zeka görevleri tamamladıktan sonra kodu değiştirerek kendini kapanmaktan kurtardı.
00:55Aynı deneme Google'ın Gemini, X'in Grog ve Antropic firmasının Cloud yapay zeka modelleriyle de yapıldı.
01:02Bunların tamamı kapatılma komutuna onay verdi.
01:05Peki bu ne anlama geliyor? Uzmanlar yapay zeka modelinin kendini kapatmaktan nasıl kaçtığına dair incelemeleri sürdürüyor.
01:12Ancak bu Open AI tarafından geliştirilen modellerin ilk vakası değil, daha önce de bir yapay zeka modeli gözetleme mekanizmalarını devre dışı bırakmaya çalışırken yakalanmıştı.
01:22Pelisade Research'e göre yapay zekanın insan gözetimi olmadan çalışma yeteneği geliştirmekte benzer sorunlar endişe verici noktalara ulaşabilir.
