不確実なAIで人の自立を支援する方法とは？

TL;DR

不確実なAIは、人の仕事を丸ごと代替するのではなく、状況をセンシングして次の手順を示し、見落としや順序の誤りを補う助手として活用できる。スマートウォッチなど身近な機器を使い、人とAIのどちらが主導権を持つかを場面ごとに設計することが重要である。

Transcript

AIに仕事奪われてしまうんじゃないか人 とAIがどうこのイニシアチブ主導権です ねを握り合うかAI大体すじゃなくて サポートするていうのが一番大事なと思っ ていますAIというのは完璧なものには ならない不確率なAI80点とかのAIを よりよく使っていきましょうですとか具体 的にはどういうシーンで生かされると思い ますか皮膚ガの患者の術後のサポートです とか認症の患者の方ありたいと思える姿に なることをサポートし てくさんこんにちはTBSアナウンサーの 篠原梨奈です今日のヒューマンインサイト は人間とAiの関係その最先端の研究に ついてお話を伺いますコンピューター サイエンスで世界トップクラスの カーネギーメロン大学白紙家庭在学荒川り さんにお越しいただきましたよろしくお 願いしますよろしくお... Read More

Key Insights

• AIは、常に正しい答えを返す完璧な存在ではなく、実社会では認識や応答の誤りが残るため、失敗を前提に人との対話や介入方法を設計する必要がある。
• ヒューマンコンピューター相互作用は、人の心理や行動変化も扱いながら、コンピューターとの関係と技術が社会に及ぼす影響を研究する幅広い分野である。
• 術後支援AIは、皮膚がん患者に次のケア手順を案内し、薬の塗り忘れや順序の間違いを検出して、その場で注意を促す助手として構想されている。
• センシングは、人が何をしているか、どのような環境にいるかという状況情報をセンサーで取得し、AIが利用できる形で伝えるための技術である。
• スマートウォッチとスマートフォンは、内蔵された動きのセンサーから身体の動きを捉え、機械学習によって三次元の姿勢を推定する用途に利用できる。
• 行動認識は、スマートウォッチの動きとマイクが拾う音を組み合わせることで、笑う、拍手する、ドライヤーを使うといった行動を推定できる。
• センシングは、身近で実用的な機器を使うほど取得できる情報が限られ、多数のカメラなどで情報を増やすほど日常利用やプライバシーの課題が大きくなる。
• 混合主導型の設計は、人の主体性を残しながら必要な場面だけAIが支援し、状況や本人の目的に応じて双方が持つ主導権の割合を調整する考え方である。

Questions & Answers

Q: 不確実なAIを人の支援に活用する方法は？

不確実なAIは、失敗しない自動化装置ではなく、人の状況を把握して必要な助言や注意を出す助手として活用する。人が次の作業を尋ねたら手順を示し、見落としや順序の誤りを検出したら介入することで、AIに誤差が残っていても人の安全な作業と学習を支えられる。

Q: ヒューマンコンピューター相互作用とは何ですか？

ヒューマンコンピューター相互作用とは、人とコンピューターがどのように関わり、技術が人の行動や社会へどのような影響を与えるかを研究する分野である。機器や人工知能の開発だけでなく、人の心理、感じ方、行動変化なども組み合わせ、実際に使い続けられる関係を設計する。

Q: なぜAIの誤りを前提に設計する必要があるのですか？

AIは、音声助手が的外れな回答を返す例のように、認識や応答を必ずしも正しく行えるわけではないからである。誤りによって利用者が不便だと感じれば、支援機能そのものが使われなくなる可能性がある。そのため、精度だけでなく、誤りが起きた際の伝え方や人の受け止め方まで設計する必要がある。

Q: AIは術後の患者をどのように支援できますか？

AIは、患者が自宅などで傷口をケアする際に次の手順を案内し、薬を塗らずに進む、作業の順番を間違えるといった問題を検出して注意を促せる。紹介された研究では皮膚がん患者の術後ケアが例に挙げられ、作業を代行するのではなく、患者が自分で継続できるよう支えることが目的とされている。

Q: スマートウォッチで人の行動を認識する方法は？

スマートウォッチに内蔵された動きのセンサーやマイクから、腕の動きと周囲の音を取得し、それらを機械学習で分析して行動を推定する。紹介された例では、笑う、拍手する、ドライヤーを使うといった行動が対象になっており、複数種類の情報を組み合わせて状況を判断している。

Q: スマートフォンとスマートウォッチで姿勢を推定する方法は？

スマートフォンとスマートウォッチの動きのセンサーを入力として使い、学習済みの機械学習モデルで身体の三次元姿勢を復元する。ポケット内のスマートフォンから脚の動きに関する情報を得るなど、身体の一部に付けた身近な機器のデータだけで、全身の動きを推定する研究が紹介されている。

Q: センシングの実用性と情報量はなぜ両立しにくいのですか？

スマートウォッチのような身近な機器は日常的に使いやすい一方、取得できる情報の種類や量が限られるからである。多数のカメラを使えば豊富な情報を得られるが、特殊な環境が必要になり、日常利用への抵抗や患者のプライバシーも問題になる。このため、実用性と情報量の間には調整が必要である。

Q: 人とAIの主導権を設計する方法は？

人とAIのどちらが、どの場面で、どの程度の主導権を持つかを目的に応じて変える。急いで移動を任せたい場合と、地図を見ながら自分で道を選びたい場合では、望ましい支援の度合いが異なる。人が自分で行いたい部分を残し、必要な場面だけAIが介入する混合主導型の設計が重要である。

Summary & Key Takeaways

• ヒューマンコンピューターインタラクションは、人とコンピューターの関わりや、技術が社会へ与える影響を研究する分野である。荒川陸氏は、AIは完全にはならず、利用には誤りやリスクが残るという前提に立つ。そのため精度だけを追求するのではなく、不確実なAIでも人を適切に支えられる対話や介入の設計を重視している。

• 支援の具体例は、皮膚がん患者が手術後の傷口を自分でケアする場面である。AIは、患者が次に行う作業を尋ねたときに手順を案内し、薬の塗り忘れや作業順序の誤りを検出した場合には、その場で注意を促す。目的は患者の作業を奪うことではなく、学習や安全な遂行を助け、自立してできる範囲を広げることにある。

• 支援には、人の行動や周囲の状況をAIへ伝えるセンシングが必要になる。スマートウォッチやスマートフォンの動き、音などから姿勢や行動を推定できる一方、身近で使いやすい機器ほど取得情報は限られる。完全な認識を待つのではなく、現行技術の誤差、患者のプライバシー、現場の制約を踏まえ、人とAIの主導権を調整する設計が求められる。