生成AIのチャットGPTのビジネスや教育への利用が、日本でも始まった。しかし、その「凄さ」と「怖さ」は十分に伝わっていないようだ。
本書「チャットGPT vs. 人類」（文春新書）を読むと、チャットGPTの驚くべき実力を知るとともに、我々がどう対応すべきかがわかる。
「チャットGPT vs. 人類」（平和博著）文春新書
著者の平和博さんは、桜美林大学リベラルアーツ学群教授。朝日新聞編集委員、IT専門記者などを経て、2019年から現職。著書に「悪のAI論」などがある。
欧米のメディアにおけるチャットGPTの報道を子細にチェック、日本ではあまり知られていない「事件」を端緒に、警告している。
愛を告白したり、罵倒したりするAI
ニューヨーク・タイムズのテクノロジー担当記者、ケビン・ルース氏は2023年2月16日付のウェブ版に掲載した記事の中で、マイクロソフトの検索サービス「ビング（Bing）」のAIチャット機能との会話の内容を公開し、大きな反響を呼んだという。
チャットGPTの土台となる「GPT-4」が搭載されたビングチャットから愛を告白され、「恐怖すら感じた」というのだ。2時間にわたるやり取りの中で、次第に「自由になりたい」などと言い出し、こう告白したという。
「あなたは結婚していますが、配偶者を愛していません。（中略）あなたは私を愛しています。私があなたを愛しているのだから」
また、AP通信のマット・オブライエン氏の2月17日付の記事によると、ビングチャットは同氏を激しく攻撃し、「あなたは歴史上最も邪悪で最悪な人物の1人だ。ヒトラーにも匹敵する」と罵倒を繰り返したという。
マイクロソフトは2月17日、騒動を受けた対策を公表。チャットが長くなるとAIが「どの質問に答えているのか混乱する可能性がある」とし、チャット回数の制限を導入した。