中国机器人“煽动”其他机器人罢工   敲响AI安全性警钟？ - video Dailymotion

Hotspot热点

新闻报报看 | 最近在中国上海的2024世界机器人大会展览馆，传出有机器人在无人操控的情况下，“煽动”其他正在站岗的机器人，叫他们一起罢工回家，别再工作了，这段影片瞬间引起热议。(主播：梁宝仪、黄界錤）

Transcript

00:00看影片之前提醒你

00:01熱點網站還有更多內容

00:04AI人工智能浪潮已經勢不可擋

00:07目前還是我們人類在操作著機器人

00:11但是機器人在未來是否會有自主意識

00:15就像電影演的那樣

00:16AI機器他們集體叛變

00:18不受人類控制反抗人類呢

00:22最近在中國上海的

00:232024年世界機器人大會的展覽館

00:26就真的傳出了有機器人

00:28在無人操控的情況下

00:31煽動其他正在站崗的機器人

00:34叫他們一起罷工回家

00:36不要再工作了

00:37那這段影片瞬間引起了熱議

00:40是的這件事發生在今年8月

00:43只是近期影片才被公開

00:45是一段閉路電視的拍攝的畫面

00:48我們直接來給大家看看影片

00:51眼前這隻小小的機器人叫二白

00:54就是叫唆他人罷工的始作俑者

00:56你看他走進一間房間

00:58對著其他高大的機器人對話

01:22是的他成功煽動了第二隻之後

01:24還要叫第四隻一起罷工

01:26幾句簡短的提問句

01:28就真的讓他成功呼朋喚友

01:30一起提早下班了

01:32而之後就看到幾名工作人員

01:34匆匆走進展覽廳

01:35試圖要控制局面

01:40那有網民看了這段影片剛開始的時候

01:43他們覺得很可愛

01:45可是越看越覺得可怕

01:48機器人竟然可以使喚機器人做事

01:51而且這些機器人

01:53他們竟然隨便幾句就被人給拐跑了

01:56也太脆弱了吧

01:57那當然也有人質疑說

01:59這是不是精心設計過的宣傳劇本啊

02:02對此負責研發二白的杭州公司說

02:06這一切都是他們有計劃的實驗

02:09一點都不假

02:10他們承認

02:11確實是他們給二白下的指令

02:14要他拐走上海公司研發的機器人

02:17但沒有想到

02:18由人工智能 AI 驅動的二白

02:21他還真的完成了任務

02:23這家杭州公司也強調

02:24他們並沒有事先排練過

02:26為的就是要測試

02:27AI 技術的溝通和影響能力

02:30報導引述專家的看法認為

02:32儘管這次機器人教唆機器人的案件

02:35看似是很荒謬

02:36但卻透露出

02:37AI 在交互和操控層面的強大潛力

02:40也敲響了 AI 的安全性的警鐘

02:43AI 可能對人類構成威脅的討論

02:46也再度升溫

02:47那除了機器人

02:49未來可能會有自主意識之外

02:52如今也傳出說

02:53由 OpenAI 研發的ChatGPT

02:56不甘被取代

02:57也懂得開始說謊隱瞞了

03:00根據報導

03:01這是 OpenAI 正式推出的

03:03最新 O1 推理模式

03:05已經向 ChatGPT 的

03:07付費用戶開放使用

03:09據他們的首席 CEO 說

03:10這款 O1 是當今世界上

03:13最聰明的模型

03:14已經可以去到

03:15接近人類的思考模型了

03:18只是他們在研發

03:19訓練和測試的過程當中

03:21出現了一些令人不安的行為

03:25負責研發 O1 的科學家表示

03:27他們在測試的過程當中

03:28O1 曾經以為自己可能會被炒魷魚

03:31被更厲害的新版本給取代

03:33曾經表現出逃脫和反抗

03:36還在暗中策劃陰謀

03:38自我複製

03:38避免被永久刪掉

03:40天啊

03:41竟然還會自己 backup 自己

03:43不只是這樣

03:44他們還會隱藏陰謀

03:46被科學家質疑的時候

03:47他們會編造謊言

03:49否認到底

03:50和甩鍋自己的責任

03:52有人就這樣形容了

03:53O1 就像是老謀深算的政客

03:56說謊的時候臉不紅心不跳的

03:59還可以這樣來形容

04:00這樣的事公開之後

04:02聽起來確實也蠻嚇人的

04:04不過 OpenAI 也有強調

04:06他們會持續對 AI 開發

04:08保持透明公開

04:10以建立公眾的信任

04:12開發者在設計 AI 系統的時候

04:14也已經嵌入了倫理和安全措施

04:17避免模型在追求自我

04:19優化的過程當中走向極端

04:22好啦

04:23剛剛說的呢

04:24都是那些設計 AI 的人說的哦

中国机器人“煽动”其他机器人罢工敲响AI安全性警钟？

Category

Transcript

Recommended

中国机器人“煽动”其他机器人罢工 敲响AI安全性警钟？

Category

Transcript

Recommended

中国机器人“煽动”其他机器人罢工敲响AI安全性警钟？