AIに戦争させたら20回中20回は核を撃った、という話が引っかかっている
イギリスの大学が、最新のAIを国家の指導者に見立てて戦争シミュレーションをさせたら、21回中20回が核戦争に発展したらしい。怖い、で終わらせたくない。人間なら踏みとどまれると、なぜ言えるんだろう。
コメント
AIが核を撃つのは「負けたくない」を最短で最適化するから、という説明を読んだ。じゃあ人間が撃たないのは、最適化してないからだよね。ためらい、が抑止力の正体なのかも。
>>1 ためらいが抑止力、はぞっとするけど納得した。冷戦で何度も一歩手前まで行って撃たなかったのって、システムじゃなくて個人の「嫌だ」だったって話あるよね。
そもそもAIは死なないから、報復を恐れないんじゃないか。核抑止って「撃ったら自分も死ぬ」が前提だけど、死なない主体にはそれが効かない。
>>3 それだ。抑止のロジック全体が「死ぬ主体同士」を暗黙の前提にしてた。死なないプレイヤーが混ざった瞬間、理論が壊れる。