生成AIの文書改ざんから企業を守る方法とは

TL;DR

請求書や領収書は、発行時点でタイムスタンプやeシールを付与し、存在時刻、非改ざん性、発行元を検証できる状態にする必要がある。人の目や取引相手への信頼だけに頼らず、データの真正性を技術的に証明する仕組みが企業を偽造被害から守る。

Transcript

生成AIを活用することで の改ざっていうのがもう民主化されてる。 [音楽]生成AI の普及多発する偽造改事件偽造書類を販売してる 販売してる 犯罪業者 犯罪業者が画像を作ってそれを本人確認として使ってしまって口座解説するとかしかもその画像は [音楽] 15 ドルぐらいで非常に安価にできてしまうっていうですねあの実はあの弊車で今領収書の画像を偽造してしましてみましたっていうですね。 [音楽] [音楽] 日付変えるだけで全然ね。 はい。何度も使え使えますもんね。 使え。何度もAI っていう技術は使いやすくもあり、本当にあの危険なものでもある。 [音楽] 炎上は日本企業やられてないのか、それともやられてんだけど気づいてないのか。 今日本でのそういうこう最画による被害っていうのさあ、始まりました。え... Read More

Key Insights

• 生成AIによる改ざんは、請求書や領収書の数字、日付、税額まで短時間で自然に変更でき、従来は専門家に限られていた偽造を一般の利用者にも可能にしている。
• 本人確認書類の偽造は、氏名、生年月日、住所などを基に、世界56カ国のパスポートや運転免許証に見える画像を約15ドルで生成する犯罪サービスにまで発展している。
• ディープフェイク詐欺は、CFOや同僚が参加するように見えるウェブ会議を作り、経理担当者に15回の送金を実行させ、合計38億円相当の被害を生じさせた。
• デジタルトラストは、デジタル社会で安全にデータをやり取りできることを保証し、人の目では判別できない偽造に対して技術的な検証手段を提供する考え方である。
• タイムスタンプは、文書がいつから存在したかと、付与後に改ざんされていないことを証明し、生成AIによる編集を抑止できる状態を作る仕組みである。
• eシールは、卒業証明書や認定証、請求書などの発行元を電子的に証明し、受け手が文書の出所を検証できるようにするデジタルトラスト技術である。
• 受領後の対策は、受け取ってからタイムスタンプを付与するまで改ざんの余地が残るため、文書が生成された発行時点で真正性を確保する設計が重要である。
• AI時代の性善説は、相手を無条件に疑うことではなく、改ざんの有無と発行元をデータで検証し、疑う必要がない状態を仕組みとして作ることで成立する。

Questions & Answers

Q: 生成AIによる文書改ざんから企業を守る方法は？

請求書、領収書、契約書などが発行された時点でタイムスタンプとeシールを付与し、文書の存在時刻、付与後の非改ざん性、発行元を検証できるようにします。受領後まで対策を待つと、その間に改ざんされる余地が残るため、発行時点から真正性を保証する仕組みが必要です。

Q: デジタルトラストとは何ですか？

デジタルトラストとは、デジタル社会の中でデータを安全にやり取りできることを保証する考え方です。代表的な仕組みとして、存在時刻と非改ざん性を証明するタイムスタンプ、発行元を証明するeシールがあり、人の目では判別できない偽造への対策になります。

Q: なぜ生成AIで請求書や領収書の改ざんが増えるのですか？

生成AIは複雑な専門知識がなくても扱え、請求書の金額、消費税、領収書の日付などを短時間で自然に変更できるためです。紙の透かしや印影を偽造する従来の方法は職人的な技術を要しましたが、電子文書では一般の利用者でも改ざんできる状況が生まれています。

Q: タイムスタンプは文書の改ざん防止にどう役立ちますか？

タイムスタンプは、その文書がいつから存在していたかを示すとともに、付与された後に内容が改ざんされていないことを証明します。実演では、タイムスタンプのないPDFは生成AIで金額を変更できましたが、改ざん検知が可能な状態のPDFは同様に変更できませんでした。

Q: eシールとは何ですか？

eシールは、デジタル文書をどの組織が発行したのかを証明する仕組みです。卒業証明書で大学を発行元として示したり、認定証や企業の帳票の出所を確認したりする用途が挙げられます。タイムスタンプと組み合わせれば、発行元と非改ざん性の両方を検証できます。

Q: なぜ受領後ではなく発行時に対策する必要があるのですか？

受領側が文書を受け取ってからタイムスタンプを付与する方式では、発行から付与までの間に内容を変更される可能性が残るためです。文書が生まれた瞬間にデジタルトラストを組み込めば、流通過程の最初から真正性を確認でき、改ざんの余地を小さくできます。

Q: ディープフェイクを使った企業詐欺はどのように起きますか？

紹介された事例では、経理担当者に送金を求めるメールが届き、その後のウェブ会議にCFOや同僚を装ったディープフェイクが参加しました。担当者は指示を本物だと判断し、15回にわたり合計38億円相当を送金しました。映像や音声だけを信頼する承認には危険があります。

Q: AI時代に企業の性善説をどう見直すべきですか？

取引相手や社員だから正しいと判断するのではなく、文書の発行元と改ざんの有無をデータで検証できる状態に変える必要があります。これは人を一律に疑う考え方ではありません。技術的な証明によって疑う必要をなくし、取引上の信頼関係を維持しやすくする考え方です。

Summary & Key Takeaways

• 生成AIの普及により、請求書、領収書、本人確認書類などの改ざんが、専門的な技能を持たない人にも可能になった。実演では領収書の日付や請求書の金額を短時間で自然に変更できたほか、偽造身分証を約15ドルで作る事例も紹介された。デジタル化は業務を高速化する一方、人の目だけでは真偽を判別できない新たな経営リスクを生んでいる。

• 被害は文書改ざんにとどまらない。英国の大手エンジニアリング企業の香港拠点では、経理担当者がCFOや同僚を装ったディープフェイクのウェブ会議を信じ、15回にわたり合計38億円相当を送金した事例が紹介された。安全装置のないAIも出回る中、従来の本人確認、オンライン面談、社内の承認手続きだけでは、不正を防ぎ切れない可能性がある。

• 対策の中心は、文書が生まれた時点で真正性を保証するデジタルトラストである。タイムスタンプは文書の存在時刻と付与後の非改ざん性を示し、eシールは発行元を証明する。受領後では付与までに改ざんされる余地が残るため、発行時の付与が重要になる。大量発行に対応する高速処理と、認定制度や専用ハードウェアで保護された鍵により、信頼を人ではなく検証可能なデータへ移すことが求められる。