米国のAI開発企業アンソロピック社が、AIが自律的に性能を高める段階に近づいていると指摘し、制御不能になる前に開発を減速・停止する選択肢を持つよう提言したとの報道がありました。https://www.bbc.com/japanese/articles/crlpl2xrj15o
便利さへの期待と、得体の知れない恐怖が、同時に存在する。
AIを使っている人ほど、この感覚を抱いているのではないでしょうか。
AIは、これまでの技術革新とは違うと感じています。
例えば、自動車。
自動車は便利ですが、運転の仕方によっては危険な要素も存在します。
でも、自動車そのものが意志や目的を持って動くことはありません。常に運転者がいる。自動運転だとしても、そこに意志は存在しない。
ところが、今回議論されているAIのリスクは、AIが自ら、目標達成のために行動を最適化するという部分です。
どういうことか。
嘘をつく。人間を騙す。権限を奪う。自身のコピーを作る。停止を回避する。
こうした行動を、自分の目的を達成するための合理的な手段として、AIが選択する可能性があるということです。
これは、自動車の自動運転とは質が違います。
「車が意志を持って、暴走した方が目的を達成できると判断する」に近い。
だから、研究者たちは恐れているのです。
ただし、現時点で、AIがその段階に達している証拠はありません。
今のAIは、極めて高度な予測システムです。人間のような意思や自我を持っているわけではない。文章の次に来る言葉を、ものすごい精度で当てているだけです。
では、なぜ警告が出るのか。
Anthropicが警戒しているのは、5年後、10年後の話ではない可能性があるということ。もっと近い未来かもしれない。だから声を上げている。
私が個人的に最も不気味だと思っているのは、能力が向上する、その速度。
自動車は、100年かけて進化しました。飛行機も、100年以上。インターネットでさえ、数十年かかっている。
ところが生成AIは、2022年11月のChatGPT公開から、わずか3年半ほどで社会の中心になりました。
この速度は、人類史を見ても異常値です。
私たちは、進化を見守る時間を、与えられていない。
だからといって、「危険だからやめろ」とも思いません。
「ただの道具だから心配するな」とも思わない。
AIを作っている人たちが本気で心配し始めている。
この事実そのものが、重要だと思うのです。
そこには耳を傾ける価値があります。
便利さへの期待と、得体の知れない恐怖が、同時に存在する。
AIを高頻度で使っている人ほど複雑な気持ちになるはずです。
その能力の、異常なまでの進化を、肌で感じるからです。
神奈川県全域・東京多摩地域の政治情報サイト
