前回はCOVID-19パンデミック後のオフィス再開と、それに対するテクノロジーの支援について考えたが、残念ながらデルタ株を始めとした変異株の流行により、感染が終息する兆しは再び失われてしまった。

 世界的に見ても、リアルでのコミュニケーションが無条件で認められるようになるのは、しばらく先になりそうな状況となっている。東京都も7月に「テレワーク等による出勤者数の7割削減」を実現するよう企業に要請しており、リモートのコミュニケーションをさらに徹底することが求められている。

 テレワークを支えるテクノロジーも、さらなる進化を遂げなければならない。しかしそれがどのような方向性であるべきかについては、議論の余地がありそうだ。

●高度化する「リモート監視」

 企業がテレワークの導入をためらう理由の一つが、従業員が「サボる」のではないかという不安だ。人材シンクタンクのパーソル総合研究所が実施した調査によれば、上司の40%がテレワーク中の部下に対して「仕事をサボっているのではないかと思うことがある」と回答している。

 同調査のテレワーカーに対するアンケートでも、「上司や同僚から仕事をサボっていると思われていないか不安」と答えた割合が38.4%に達しており、この回答はテレワーカーが不安に感じることの上位にランクインしている。

 既にこうした不安に対しては、各種の対策が講じられている。PCやネットワークにログインした時間を拾う、メッセージツールのプレゼンス状態(Skypeで言えば「退席中」や「会議中」など)を確認するといったシンプルなものから、使用しているアプリケーションのログやブラウザの閲覧履歴データを収集する、キーボードのタイピング操作を記録する、さらには一定間隔で画面のスクリーンショットを撮るといった専用のツールを使うものまで、その内容も多様だ。

 実際に英国の調査では、調査対象となった企業の12%が、既に何らかの形で従業員の遠隔監視を行っているとの結果が出ている。

 さらに最近では、AIを活用したより高度な「監視」を可能にする製品も登場している。例えばフランスのTeleperformanceが提供するCloud Campusという製品は、テレワークの実現を支援するプラットフォームであると同時に、従業員の管理やセキュリティ対策としてのモニタリング機能を有している。

 その際、従来型のデータ収集・分析に加えて、テレワーカーが作業する空間(彼らの自宅の一室など)にWebカメラを設置してもらい、そこから得られる映像データをAIに解析させるという対応を行っている。

 こうした高度な監視は、単なる「サボり防止」だけでなく、機密情報をオフィス以外の場所からアクセス可能にする上でも有効であることが指摘されている。従業員の怪しい行動が検知された場合には、すぐに機密情報へのアクセスや、端末自体をシャットダウンしてしまえば良いわけだ。従って、テレワーク可能な業務を広げる点でも、「リモート監視」技術の拡充は望ましいといえるだろう。

●リモート監視は従業員の不利にならないか

 ただし当然の反応だが、こうしたリモート監視に対しては疑問の声が挙がっている。過剰なデータの収集は従業員のプライバシー侵害に当たるのではないか、従業員を委縮させることで生産性の低下をもたらすのではないか、逆にすぐに「抜け道」を見つけて再びサボるようになるのではないかなど、こちらの主張もさまざまだ。

 前述のTeleperformanceについては、自社のコールセンター従業員をテレワーカーにするに当たり、自宅を「監視」されることを望まない従業員にもデータ収集を認めるよう強制したのではないか(パンデミック下で職を失うかもしれないという不安に乗じて)と米NBCが報じている。

 仮に、高度な監視テクノロジーが提供するのが、人間の上司と同じくらいの確認作業だったとしても、以前と変わらず生身の身体で仕事する従業員にはたまったものではないだろう。

 機械の上司は疲れを知らず、個々の従業員が使う端末やWebカメラにじっと潜んで、「不正」と見なされる行動の瞬間を見逃さない。考えただけでもストレスを感じる人は多いはずだ。

 さらに、そうした「不正」かどうかの判断自体が信頼できないのではないか、という懸念も生まれている。

 2021年4月、米テキサス大学オースティン校の学生自治会が、大学側に対して「ProctorioのようなAIベースのオンライン試験監督ソフトウェアパッケージ」の使用を止めることを求める決議を採択した。

 名指しされたProctorioは、オンライン上でのテスト実施・管理を実現するプラットフォームで、受験者はWebカメラを通じて自分の顔やID(学生証等)を撮影してログインするようになっている。

 さらに試験中には、Webカメラを通じて受験者の挙動が撮影され、その映像データをAIが解析。カンニングなどが疑われる場合には受験者への警告が行われるとともに、当然ながら、テスト監督者への報告も行われる。

 こうしたオンライン試験監督ソフトウェアは、Proctorioの他にも多数の製品・サービスが存在しており、COVID-19による(半ば強制的な)教育のオンライン移行が追い風となって、全米各地の教育機関において普及が進んでいる。しかしそれに伴い、監視の精度に対する疑問の声も大きくなっており、オースティン校の学生たちのように明確な抗議活動が行われるケースが生まれている。

 前述の決議文では、反対の理由として、「学生団体の報告によれば、これらのツールは、学生(特に有色人種の学生)が試験に合格するのを困難にする可能性がある」ことを挙げている。これはAIの開発において、AIを学習するために与えた教師データの中に偏りが存在しているのが主な原因だ。

 この問題は今、オンライン試験監督ソフトウェアに限らず、機械学習による顔認識・行動認識技術を使ったソフトやサービスにおいてたびたび指摘されている。

 例えば大量の顔写真をAIに与えて学習させることを考えた場合、さまざまな理由から、集められる顔写真にはマイノリティーのものが少なくなる傾向がある(マジョリティーの人種の方が経済的に恵まれているため、デジタルデータの顔写真が数多く存在している、あるいは開発者の間でもマジョリティーが多数派を占めるため、データが集めやすいなど)。その結果、マイノリティーの人々に対する認識の精度が落ち、AIが誤った判断を下す可能性が高くなってしまうのである。

 同じことは、ADHD(注意欠陥・多動性障害)など、行動上の特徴を伴う障害のある人々の場合にも起こり得る。例えばProctorioの場合、視線がカメラの方を向いているかどうかや、視線が画面から離れる頻度がどのくらいかといった傾向を、不正か否かの判断として利用していると見られる。それが学習に使用した「普通の人々のデータ」の平均値から逸脱していれば、怪しいと判断されるわけだ。

 従って障害のある人々にとっては日常的なしぐさが、不正であるとAIに受け取られてしまうかもしれない。実際にそうした傾向が実在のソフトウェア製品に認められたとする調査結果も出ており、AIにテストの監視を任せることの是非が問われるようになっている。

 既に米イリノイ大学や米ハーバード大学など、オンライン試験監督ソフトウェアの利用を止める、あるいは利用を推奨しない決定を下す教育機関が出てきている。パンデミックという非常事態の中で、オフラインで行われていた活動を急きょオンライン化する過程において、何らかのひずみが生じてしまうのは仕方がない。重要なのは、そうしたひずみをいち早く認識して、訂正のための手段を講じることだろう。

 テレワーカーの監視も、テスト受験者の監視も、今進められているのは「オフライン上でのやり方をオンライン上で実現しようとすること」だといえる。確かにそれが一番分かりやすく、手っ取り早く完了できるような気にさせられる。

 しかし人間を完全に代替し、さらには人間自身も意識していないような差別や偏見を除外したソフトウェアを作るのが難しい以上、単なるプロセスの移植ではひずみの発生を回避できない。オンライン上でのタスクとその評価の実施方法を、ゼロベースで再構築することが、ウィズコロナの時代に向けて求められている。

(小林啓倫)