企業が機密を守るローカルAIを導入する方法

TL;DR

機密データを外部へ出さずにAIを活用するには、専用PCやワークステーション上でローカルAIを運用し、利用者ごとに権限を設定する。利用頻度が高い業務ではクラウド型の従量課金を抑えつつ、社内資料の検索や分析、基幹システムの操作を継続的に自動化できる。

Transcript

日本企業ってそのね、部書館でのしがらみとかなんで車内で争ってるんだみたいなの結構あって 誰でもどんなあの部署の人たちでも使って自分たちの力にしていっていただきたいっていうのが私たちが目指す AI民主家 ご件のあの大規模な AI 事業授業の投資信革命的に変わるという可能性もあります。 AI の力を借りたりして自社をマイニングしていただきたいと思います。 クロスリーグビジョン始まります。MC 担当しますこ介です。よろしくお願いし ます。今回はサードウェイ部のお2人と共 にクラウド一択の終焉日本企業を覚醒さ せるAIの民主家とはこちらをテーマに 徹底的に論していきます。スターウェイ ブ人製品企画 の鈴木子さん、そしてAI開発責任者の 超大さんに来ていただきました。お2人 どうぞよろしくお願いします... Read More

Key Insights

• ・ローカルAIは、企業がAIの所有権とデータ管理権を持ち、研究資料、顧客情報、社員情報などを外部クラウドへ送らずに活用する仕組みである。
• ・オンプレミスAIは、専用PCや管理されたワークステーション内で稼働させることで、機密性の高い医療、製造、法律分野のデータを扱いやすくする。
• ・権限管理は、役職や担当業務に応じてAIが参照できる情報と実行できる操作を分け、一般従業員のAIが不要な機密情報へ触れることを防ぐ方法である。
• ・ローカルAIの費用上の特徴は、クラウドAIのサブスクリプションや利用量に応じた料金と異なり、導入後に継続して利用できる点にあると出演者は説明している。
• ・専門AIの構築は、営業、医療、製造など対象領域を絞り、自社が保有するデータを蓄積して学習させることで、特定業務に適した回答を目指す取り組みである。
• ・AIエージェントは、自然言語や画像を理解し、ブラウザ操作や複数のツール呼び出しを組み合わせ、資料要約や社内情報検索などのタスクを長時間処理できる。
• ・企業システムとの連携は、AIエージェントをERP、CRM、倉庫管理などへ接続し、在庫管理や業務処理を人間に代わって継続的に実行させる構想である。
• ・導入規模の目安は、小型機で同時に4人程度、GPU1枚で数十人、GPU4枚で200人から300人程度と説明されたが、実際の性能は用途や構成に左右される。
• 🎬 このチャンネルの他の動画:
  • テスラの強みとEV市場の今後とは？
  • 量子コンピューターは産業をどう変えるのか
  • スマホだけでポッドキャストを始める方法
• 📺 このチャンネル: TBS CROSS DIG with Bloomberg

Questions & Answers

Q: 企業が機密を守りながらローカルAIを導入する方法は？

専用PCやワークステーションにAIモデルと社内データを置き、外部クラウドへ機密情報を送らない環境を構築する方法が示されている。さらに、役職や担当業務ごとに閲覧情報と実行権限を限定し、研究資料、顧客情報、社員情報などへのアクセスを管理することが重要である。

Q: ローカルAIとクラウドAIの違いは何ですか？

ローカルAIは企業や組織が所有し、自社のPCやオンプレミス環境で運用するのに対し、クラウドAIは外部サービスへ接続して利用する形が基本である。ローカル型はデータを自社管理下に置けるほか、高頻度で使う場合にクラウド型の利用量に応じた料金を抑えられる可能性がある。

Q: ローカルAIが医療や製造業に向いている理由は？

医療情報、顧客情報、研究資料、製造ノウハウなど、外部流出の影響が大きいデータを自社環境内で扱えるためである。出演者は、医療に加えて製造や法律の分野でもローカルAIへの需要が高まっていると説明しているが、具体的な導入効果の検証結果までは示されていない。

Q: ローカルAIのアクセス権限を管理する方法は？

利用者の役職や職務に合わせて、AIが参照できる情報と代行できる操作を分ける。例として、部長向けAIには部長が持つ権限を与え、一般従業員向けAIには簡単なタスクだけを許可する設計が紹介された。これにより、給与情報などの機密データへの不要なアクセスを抑えられる。

Q: ローカルAIで自社データを活用する方法は？

社内に分散している文書、過去の業務記録、顧客対応の知見などを自社管理の環境へ集約し、AIへ質問できる状態にする。退職者が担当していた業務の確認、資料の要約、数値や文章の複数視点からの分析などに利用でき、社内に埋もれた知識を探し出す用途が想定されている。

Q: ローカルAIエージェントはどの業務を自動化できますか？

資料の読み込みと要約、社内情報の検索、画像認識、ブラウザ操作、コーディング支援などを自動化できると紹介されている。さらにERP、CRM、倉庫管理などの企業向けシステムへ接続し、在庫管理を含む長時間の業務を継続的に処理する構想も示された。

Q: ローカルAIにはどの程度の機器が必要ですか？

必要な機器は利用人数と処理内容によって異なる。紹介された小型機は同時に4人程度の利用を想定し、GPU1枚で数十人、GPU4枚の構成では200人から300人程度を支えられると説明された。GPU4枚の構成価格は1000万円以上とされ、導入前の要件整理が必要である。

Q: ローカルAIを導入する際の課題は何ですか？

自社データを学習させ、業務システムと連携させるには、一定のエンジニアリング技術が必要である。また、AIへ業務を任せるほど、停止や機器故障による影響も大きくなる。動画では対策の一例として、国内生産と24時間365日の電話サポート、故障原因の切り分けや引き取り修理が紹介された。

Summary & Key Takeaways

• ローカルAIは、企業や組織が自ら所有し、専用PCやワークステーション内で運用するAIである。研究資料、顧客情報、社員情報などの機密データを外部のクラウドへ送らず、自社の管理下で検索、要約、分析に利用できる。特に医療、製造、法律など、情報流出が重大な問題になる業界で需要が高まっていると、出演者は説明している。

• 安全な運用には、AIをオンプレミス環境へ置くだけでなく、利用者の役職や業務に応じてアクセス権限を分ける必要がある。部長向けAIには部長の権限を与え、一般従業員向けAIには限定的な操作だけを許可する設計が例示された。対象領域を営業や特定業界などに絞り、蓄積しやすい社内データを学習させることで、専門業務に対応するモデルを構築できる。

• ローカルAIエージェントは、文書の要約や画像認識に加え、ERP、CRM、倉庫管理などの社内システムへ接続し、長時間のタスクを処理できると紹介された。小型機は同時に4人程度、GPU4枚の構成は200人から300人程度の利用が想定され、価格は1000万円以上とされた。ただし必要な構成は利用人数や業務内容で変わり、導入には技術力と保守体制も必要になる。