つくり話シュガーの物語⑦ - 技術者ワーママ　こころとからだの修理日記

前回⑥の続きです。ちょい長です。

彼はまず、本業で関わっているプロジェクトリーダーに、SNSの監視システムがどうなっているかを確認した。

基本的には、不適切なキーワードを投稿した場合に、その投稿の表示制限をかけたり、悪質な場合には警告した上でアカウントを制限する仕組みはあった。あとはAIが問題となりそうな投稿にアラートを出し、サポートで人が文書を確認するシステムを導入中らしい。やはり、加害者側の制限に限定されていた。

一応被害者側のケアについて意見を聞いてみたが、

「確かにその手のサービスを導入しようとしているサービスは海外でありますよね、ただ、現時点ではプライバシー侵害で問題になったりしてるみたいですよ。それにそこまで追って全部対応してたらどんだけシステム負荷上がると思います？」

と嫌な顔をされた。まぁ、そうだろう。基本的には攻撃的な投稿が表示されなければ被害者は出ないはずだから。

となると、ユーザーの精神状態を把握してケアが必要かどうかを見る方が現実的かもしれない。

そしてその後、酒井との打ち合わせでは、カウンセリングの進め方を教えてもらった。基本的にはオンラインカウンセリングは医療行為として行なっていないため、相手の話を聞いて、受け止める事が最初に必要らしい。一通り話して落ち着いたら、聞いた話を整理し、一緒に客観的に振り返る。振り返りながら認知行動療法と呼ばれる方法で、ストレスを感じにくい考え方を取り入れていくそうだ。

認知行動療法自体はうつ予防にも効果があるとのことだが、当然、カウンセリングの相手は少なくともうつの自覚症状がある。ユーザーの精神状態をどう判断するか、ケアが必要な場合、どのように関わるかについては彼女も経験していない。恐らくここにAIを使っていくのだろう。SNSの投稿内容からストレス状態を診断する試みは既に始まっている。もしカウンセリングのモニターをユーザーから集めれば、どの段階でケアするのが良いのかがわかるかもしれない。

また、例えば命にかかわるような事態を察知した場合などにどう対処するかも問題になるだろう。仮にAIが危険を察知しました、と警察に管理者が通報して相手にされるだろうか？ウェブでの通報システムも存在するが、線引きは難しい。彼女にも相談したが、カウンセラーはせいぜい予約した時間に来なかった時に連絡するくらいのフォローらしい。

いずれにしても、具体的な進め方の相談は三木と話をしてからだろう。彼女に礼を言って、また提案後に相談に乗って欲しいと伝えた。

自席に戻ると、提案資料の作成に取り掛かる。とは言え、最終的な目的が分からなければ完成させることはできない。現在の状況と問題点からこの問題を解決するためのシステム案を2つ提示するところまで作り、三木との打ち合わせを設定した。

数日後の打ち合わせは、いつもの会長室ではなく、同じフロアの一角にある小さな会議スペースに呼ばれて行うことになった。役員フロア内には違和感のあるこじんまりとした部屋だ。机は小さいが、白い壁にプロジェクターで投影されたメーカーのロゴが映っている。

彼は持ってきたモバイルパソコンをプロジェクターにつなぎ、用意してきたプレゼン資料を表示した。

「先日のお話について、うちのプロジェクトリーダーに現在のシステムについてヒアリングしました。三木さんから要望のあったユーザーに対する中傷などの被害については、事前に加害者側の投稿制限をかける仕組みはありますが、中傷に該当するようなのキーワードを含まない場合など、フィルターから漏れた場合にケアをするような仕組みは現状ありません。

これを問題点とすると、解決するためにはいくつか方法が考えられます。今回は案として２つを提案します。まず１つは、既存のシステムに最低限の修正を加えて、出来るだけ短納期で対応していく方法、もう１つは、時間と予算がはかかりますが、新しいシステムを立ち上げてから移行していく方法です。」

それぞれの案について概要を説明した後、彼は三木に尋ねた。

「予算や納期の話はもちろんですが、三木さんが最終的に何を目指しているかが分からないと、せっかくシステムを構築しても無駄になってしまいます。三木さんは何故僕にこの仕事を依頼したのですか？」

三木は少し哀しげに微笑むと、部屋の奥に向かって歩き出した。少し変わったドアノブのついた扉があった。どこかで見たことのあるそのドアノブに手をかけると三木は振り返りながら言った。

「きっと君はそういうだろうと思って、ここに連れてきたんだ。

その答えは、娘に会えばわかる。この先で娘に会えるよ。」

三木が扉を開いた時、彼は思い出した。そうか、あのドアノブは防音室についてるものだと。扉の向こうは思っていたよりずっと広い。スタジオのようだ。

入口で戸惑う彼に三木は言った。

「VR。仮想空間だ。」