メニュー
日本語

サムスン、ChatGPTの社内利用で情報漏洩 生成系AIのプライバシー問題

「覆水盆に返らず」という格言のように、一度発言したことも取り消せないという場合があります。
これはまさにChatGPTにも相応しい考え方です。
Samsung社員3人がソースコード、テストシーケンス、社内議論を不注意でChatGPTの開発元であるOpenAI社に流出してしまったケースがいい例となります。

Economist Koreaによると、サムスンは当初、AIを搭載したチャットボットの採用について、企業秘密などの内部情報を世界に漏らす可能性があることを恐れて警戒していました。

しかし、ChatGPTが世界を席巻する中、サムスンもこの流れに乗り、社員が技術的な変化に対応できるよう、職場での社内利用にゴーサインを出した。

その際、同社はChatGPTの利用を予定している人に対し、何かプロンプト(受けたい情報に応じてChatGPTに入力する指示)を入力する際には「社内情報のセキュリティに注意し、個人情報を入力しないこと」と通達した。

この注意はどうやら耳に入らなかった人もいたようで、その直後20日間の間に、1人ではなく3人のサムスンエンジニアが同社の機密情報と思われるデータを漏洩し、OpenAIやその競合他社に同社の技術に関する洞察を与える可能性が出ました。

最初のケースでは、サムスンの従業員が半導体工場測定データベースのダウンロードプログラムのソースコードにバグを発見し、ChatGPTに解決策を依頼しました。
2つ目のケースでは、ある社員が歩留まりや不良チップを特定するプログラムのテストシーケンスを最適化するためにChatGPTを使用していました。
3件目は、社員が社内の会議をまずスマートフォンで録音し、それを音声認識アプリで書き起こし、ChatGPTに与えて会議録を作成していました。
3人とも現在、懲戒処分を受けています。

そこで、この流出発生後、サムスンはすぐにChatGPTを禁止したのでしょうか?
そうではありません。

禁止する代わり、サムスンは従業員にAIのプライバシーリスクについて教育し、ChatGPTに話したことはすべてOpenAIの外部サーバーにアップされることを伝えました。

つまり、ChatGPTに一度話してしまったら、もう後戻りはできない、このデータを取り出す・取り消すことはできない、ということです。

サムスンはまた、各従業員がChatGPTにアップロードできるデータの量に上限を設け、もし誰かが再び何かを漏らした場合、ChatGPTの利用を永久に停止すると警告しています。

ChatGPTに一度言ったことはもう取り消せない

サムスンは、OpenAIのチャットボットであるChatGPTと機密事項を話し合うという従業員の癖の初の犠牲者でもなく、最近の犠牲者に過ぎません。

他の企業も同様に、嫌な経験をしてこのノウハウを学んでいます。

AmazonChatGPTの応答でAmazonの内部データと「密接に」一致する出力を見つけた後、すでに1月からChatGPTの社内使用を制限していて、コードなどの機密情報をチャットボットに入力するなと社員に警告しています。
また、米国の大手小売企業であるWalmartは、当初、「会社にリスクをもたらす」活動を検知してChatGPTをブロックしていましたが、その後、従業員は「機密、秘密、または専有情報の入力を避ける」ことを含む一連のガイドラインを発表し、使用を許可しています

金融サービス企業では、ChatGPTの職場利用を完全に追放する動きが相次いでいます。

Bank of America(アメリカ銀行) は、ChatGPTを業務利用禁止アプリのリストに加えています。
チャットボットへのアクセスをブロックした他の金融機関には、JPMorgan Chase, Citigroup Inc、Goldman Sachs、Deutsche Bank、Wells Fargo が含まれる
後者はBloombergに対し、ChatGPT社内利用制限は標準的なサードパーティソフトウェア制限に沿ったものであり、この技術を利用するための「安全で効果的な方法を評価し続ける」と述べている。

銀行業界は、ChatGPTがもたらすリスクへの対応に最も積極的であり、それは当然のことです。
銀行は、大量の機密性の高い顧客情報を扱い、厳しい規制を受けています。

しかし、同じようなリスクはどの業界にも当てはまります。
機密コードの一部であれ、取締役会の記録であれ、チャットボットに入力された情報はもはや秘密ではなく、公開情報になったと考えたほうがよいでしょう。

OpenAIの利用規約では、ChatGPTチャットボットと対話する際に情報プライバシーを期待すべきではないことを示唆しており、入力する情報に関してはユーザーに責任があるとしています。
例えば、OpenAIは、ChatGPTとの会話を閲覧し、AIを学習させるために使用することができるとし、ユーザーに要求されてもチャット履歴から特定のプロンプトを削除することはできない
と述べています。

つまり、自分や会社の機密情報やデータをChatGPTに伝えてしまうと、他の誰かがその情報をChatGPTに尋ね、手に入れる可能性があるということです。

例えばサムスンの場合、社員が漏らした情報を、競合他社がチャットボットに聞き出そうとするる可能性があります。

OpenAIは、あなたのデータがAIトレーニングに使用されることをオプトアウトできるオプションを提供していてそのためには専用フォームに記入する必要があります

しかし、もしすでにChatGPTと共有したデータを後悔しているのであれば、もう手遅れかもしれません。
アカウントの削除を検討したほうがいいかもしれません。その場合だけ、チャット履歴が削除される可能性があるからです。
OpenAIによると、このプロセスには最大30日かかる可能性があるとのことで、削除後はアカウントを復元することはできないそうです。

しかし、その後どうなるかは大きな問題です。
一般にユーザーは、自分の情報がアルゴリズムの訓練にどのように使われたかを知らず、削除されたことを確認する手段もないからです。
理論的には、システムにデータを「unlearn(アンラーン)」させる、つまり学習したことを忘れさせることは可能ですが、このプロセスは非常に困難であると考えられています。
ジェネレーティブAI(生成系AI)によるセキュリティやプライバシーへの影響に対する懸念が高まる中、いわゆる machine "unlearning" (機械学習"解除")の研究が行われていますが、この分野はもっともっと研究が必要です。
一般的なアプローチは、モデル全体をゼロから再学習させることのようですが、これは実際には実現不可能です。

ずべての手段を使った上でも、ChatGPTに与えた情報が永久に消えるという確信が持てないのであれば、自分や会社の秘密をAIに託すのはやめておいた方がいいかもしれません。
その情報がどこに出てくるかわからないのですから。
OpenAI自身が言っているように、「ChatGPTとの会話で機密情報を共有しないでください」。

この記事を気に入っていただけましたか?

AdGuard for Windows

AdGuard for Windowsは、単なる広告ブロッカーではなく、広告をブロックし、危険なサイトへのアクセスを制御し、ページの読み込みを高速化し、不適切なコンテンツから子供を保護する、多目的ツールです。
ユーザーレビュー: 13834
星5つのうち4.7
ダウンロードされますと、使用許諾契約書に同意したことになります。
詳細

AdGuard for Mac

AdGuardはmacOSの仕様を念頭に設計されたユニークな広告ブロッカーです。 ブラウザやアプリで広告を取り除くだけでなく、個人情報追跡、フィッシング、詐欺から端末を守ります。
ユーザーレビュー: 13834
星5つのうち4.7
ダウンロードされますと、使用許諾契約書に同意したことになります。
詳細

AdGuard for Android

AdGuard for Androidは、Android搭載端末に最適なソリューションです。 他のほとんどの広告ブロッカーと違って、root権限を必要とせず、アプリでのフィルタリング、アプリ管理など、幅広い機能を提供しています。
ユーザーレビュー: 13834
星5つのうち4.7
ダウンロードされますと、使用許諾契約書に同意したことになります。

AdGuard for iOS

一番効果的なSafari用広告ブロッカー。ポップアップ広告を除去し、ページの読み込みを高速化し、個人情報を保護します。手動要素ブロックツールと柔軟にカスタマイズ可能な設定により、ニーズにぴったり合ったフィルタリングを楽しみいただけます。
ユーザーレビュー: 13834
星5つのうち4.7
ダウンロードされますと、使用許諾契約書に同意したことになります。

AdGuard ブラウザ拡張機能

AdGuardは、Webページ上のすあらゆる広告を効果的にブロックします。また最速で軽量な広告ブロック拡張機能です!是非AdGuardを使って広告のない高速で安全なブラウジングをお楽しみください。
ユーザーレビュー: 13834
星5つのうち4.7

AdGuard for Safari

Appleが新しいSDKの使用を開発者全員に強制し始めてから、Safari用の広告ブロック拡張機能は苦境に立たされています。AdGuard拡張機能は、Safari用の高品質な広告ブロック機能を復活させることがミッションです。
ユーザーレビュー: 13834
星5つのうち4.7
App Store
ダウンロード
ダウンロードされますと、使用許諾契約書に同意したことになります。

AdGuard Home

AdGuard Home は、広告とトラッキング(追跡)をブロックするネットワーク全体用ソフトウェアです。 セットアップを完成すると、全ての家庭内デバイスをカバーし、クライアント側のソフトウェアさえ必要ありません。 Internet-Of-Thingsや接続するデバイスの登場と伴って、ネットワーク全体を制御することがますます重要になってきています。
ユーザーレビュー: 13834
星5つのうち4.7

AdGuardコンテンツブロッカー

AdGuard Content Blockerは、コンテンツブロッカーテクノロジーをサポートするモバイルブラウザー(Samsung Internet、Yandex.Browser)のすべての種類の広告を排除します。 Android for AdGuardよりも制限されていますが、無料で簡単にインストールでき、広告のブロック品質も高いです。
ユーザーレビュー: 13834
星5つのうち4.7
ダウンロードされますと、使用許諾契約書に同意したことになります。
詳細

AdGuardアシスタント

“AdGuardデスクトップアプリのお手伝い役”ブラウザー拡張機能。カスタム要素のブロック、Webサイトのホワイトリストへの登録、報告の送信などといった機能に直接ブラウザーからアクセスできるようにします。
ユーザーレビュー: 13834
星5つのうち4.7
Chrome用アシスタント これは現在お使いのブラウザですか?
インストール
ダウンロードされますと、使用許諾契約書に同意したことになります。
Firefox用アシスタント これは現在お使いのブラウザですか?
インストール
ダウンロードされますと、使用許諾契約書に同意したことになります。
Edge用アシスタント これは現在お使いのブラウザですか?
インストール
ダウンロードされますと、使用許諾契約書に同意したことになります。
Opera用アシスタント これは現在お使いのブラウザですか?
インストール
ダウンロードされますと、使用許諾契約書に同意したことになります。
Yandex用アシスタント これは現在お使いのブラウザですか?
インストール
ダウンロードされますと、使用許諾契約書に同意したことになります。
Safari用アシスタント これは現在お使いのブラウザですか?
お使いのブラウザが見つからない場合は、AdGuard拡張機能の設定にある旧レガシーアシスタント版を試してみてください。

AdGuard Temp Mail β

匿名性とプライバシーを保護する、無料の捨てメアド(一時メールアドレス)ジェネレーター。メインのメールサービスに迷惑メールは届きません!
ユーザーレビュー: 13834
星5つのうち4.7

AdGuard for Android TV

AdGuard for Android TV は、広告をブロックし、プライバシーを保護し、スマートテレビのファイアウォールとして機能する唯一のアプリです。Webの脅威に関する警告を受け取り、セキュアDNSを使用し、トラフィックを暗号化しましょう。セキュリティを向上して、広告なしでお気に入りの番組をお楽しみください!
ユーザーレビュー: 13834
星5つのうち4.7
AdGuardをダウンロード中です AdGuardをインストールするには、矢印が指してるファイルをクリックしてください 「開く」を選択し、「OK」をクリックして、ファイルがダウンロードされるのをお待ちください。 ダウンロードが終了し開きましたウィンドウでAdGuardを「Applications」フォルダにドラッグで移動させてください。 AdGuardをダウンロードして頂きありがとうございます! 「開く」を選択し、「OK」をクリックして、ファイルがダウンロードされるのをお待ちください。 ダウンロードが終了し開きましたウィンドウで「インストール」をクリックしてください。 AdGuardをダウンロードして頂きありがとうございます!
以下のQRコードをスキャンすることでモバイル端末にもAdGuardをインストールできます。