神奈川県座間市のアパートで9人の遺体が見つかった事件では、インターネット上で自殺を望むような書き込みと、弱っている心理を悪用してだます犯罪に焦点が当てられた。
交流サイト（SNS）では、自殺をほのめかす投稿に運営側が無関心なわけではない。米フェイスブックでは、人工知能（AI）によりこうした書き込みを検知し、思いとどまらせる試みを始めた。
-
フェイスブックが提供する自殺防止のイメージ -
フェイスブックが提供する自殺防止のイメージ
ザッカーバーグCEO「新たな取り組みになる」
「自殺防止の支援。これこそAIの良い使い方だ」
フェイスブックの創業者、マーク・ザッカーバーグCEO（最高経営責任者）は2017年11月27日、フェイスブックにこう投稿した。同じ日、同社上級副社長で製品管理を担当するガイ・ローゼン氏がその詳細を説明した。
フェイスブック上の大量の投稿や生配信される動画コンテンツに「パターン認識」という技術が用いられる。例えば投稿者が自殺をほのめかす内容を書き込んだり、投稿内容へのコメント欄に「大丈夫？」「助けが必要なの？」といった言葉が見られたりした場合、AIがこれらを自殺に関連する「シグナル」として受け止める。
AIが検知した情報は、フェイスブック内で自殺や自傷行為に関する特別な研修を受けた専門チームに伝えられる。その後、担当者が投稿者に、友人に相談するよう促したり「命の電話」を案内したりして、悩みを打ち明けられるように背中を押す。専門チームの対応は年中無休だ。米国では先行して導入され、10月には100件以上見つかった。今後、欧州連合（EU）以外の各地域に適用していく。
フェイスブックでは過去10年以上にわたって、自殺防止に取り組んできた。子会社のインスタグラムでも2016年、自殺や自傷行為の可能性がある利用者に向けた支援ツールをアップデートし、17年にはライブ動画配信中にも使えるようにした。ただ、AIの導入は今回のフェイスブックが初めてとみられる。ザッカーバーグCEOは先述の投稿で、「自殺は若者の死亡原因の中で最も多いもののひとつ。これ（AI）が（自殺）防止の新たな取り組みになる」と評している。
ツイッターCEOは利用者間の働きかけ求める
座間市の事件で、自殺関連の書き込みが見つかったツイッターはどんな対応をしているか。「ヘルプセンター」のページに、「自傷行為や自殺願望に気付いたときは」と題した説明がある。
まず、自分が「自殺したい」などと悩んでいる場合は「心のサポートや自殺防止の専門機関にできるだけ早く連絡を取って助けを求めてください」とする。一方、自殺願望のような投稿を見つけたら、専門チームへの連絡を促しており、リンク先に具体的な情報を入力できる仕組みになっている。情報を受け取ったツイッターの運営側は、その信ぴょう性を見極めたうえで該当のアカウントに連絡し、「その利用者の心身の安全を危惧して心配している人がいることを伝え、オンラインまたは電話による救済策を案内して助けを求めるように促し、励まします」。
原則実名でアカウントを運用し、実際の友人知人とつながることが多いフェイスブックと比べて、ツイッターは匿名が認められ、面識がない相手でもフォローしたり、されたりしながらコミュニケーションを図るといった違いがある。2017年11月21日放送の「クローズアップ現代＋」（NHK）で、ツイッターのジャック・ドーシーCEOも「ツイッターはSNSだとは思っていない」との表現で、この点を強調した。
またドーシーCEOは座間の事件を踏まえて、「ユーザーが『自殺したい』という言葉をつぶやいた場合、ほかの人たちの働きかけで思いとどまるようにしてほしい」とも話した。運営側がAIを導入して積極的に対策をはかるフェイスブックに対して、あくまでも利用者間による相互の助け合いを望んでいるようだ。