神奈川県座間市のアパートで9人の遺体が見つかった事件では、インターネット上で自殺を望むような書き込みと、弱っている心理を悪用してだます犯罪に焦点が当てられた。
交流サイト（SNS）では、自殺をほのめかす投稿に運営側が無関心なわけではない。米フェイスブックでは、人工知能（AI）によりこうした書き込みを検知し、思いとどまらせる試みを始めた。
-
フェイスブックが提供する自殺防止のイメージ -
フェイスブックが提供する自殺防止のイメージ
ザッカーバーグCEO「新たな取り組みになる」
「自殺防止の支援。これこそAIの良い使い方だ」
フェイスブックの創業者、マーク・ザッカーバーグCEO（最高経営責任者）は2017年11月27日、フェイスブックにこう投稿した。同じ日、同社上級副社長で製品管理を担当するガイ・ローゼン氏がその詳細を説明した。
フェイスブック上の大量の投稿や生配信される動画コンテンツに「パターン認識」という技術が用いられる。例えば投稿者が自殺をほのめかす内容を書き込んだり、投稿内容へのコメント欄に「大丈夫？」「助けが必要なの？」といった言葉が見られたりした場合、AIがこれらを自殺に関連する「シグナル」として受け止める。
AIが検知した情報は、フェイスブック内で自殺や自傷行為に関する特別な研修を受けた専門チームに伝えられる。その後、担当者が投稿者に、友人に相談するよう促したり「命の電話」を案内したりして、悩みを打ち明けられるように背中を押す。専門チームの対応は年中無休だ。米国では先行して導入され、10月には100件以上見つかった。今後、欧州連合（EU）以外の各地域に適用していく。
フェイスブックでは過去10年以上にわたって、自殺防止に取り組んできた。子会社のインスタグラムでも2016年、自殺や自傷行為の可能性がある利用者に向けた支援ツールをアップデートし、17年にはライブ動画配信中にも使えるようにした。ただ、AIの導入は今回のフェイスブックが初めてとみられる。ザッカーバーグCEOは先述の投稿で、「自殺は若者の死亡原因の中で最も多いもののひとつ。これ（AI）が（自殺）防止の新たな取り組みになる」と評している。