韓国の電機メーカーで、社員が半導体設備のソースコードや会議の内容を社外の生成AIサービスに入力した

何が起きたか

この事故で流出した、または流出したおそれがある情報は、半導体設備の計測データベースのソースコード、歩留まり・不良を調べるプログラムのコード、社内会議の内容。量は公表されていないです。その後の対応と影響は、1回の入力を1024バイトに制限した。社員に注意を出し、関係した社員の処分を検討した。2023年5月1日から社内のパソコンで生成AIを使うことを一時的に禁止し、違反すれば処分の対象になると社内に通知した。社内向けのAIサービスの構築も検討したです。

原因になったのは「社員が業務のソースコードと会議内容を社外の生成AIに入力」です。生成AIで作ったもの、または生成AIの使い方が事故に関わっています。

なぜ起きたか

半導体部門は2023年3月11日に業務での利用を認めた。社員はプログラムのエラーの解決、コードの改善、議事録の作成を生成AIに頼み、その際に元の情報をそのまま入力した。入力内容がサービス提供会社の学習に使われうる設定だったと報道されている。

原因の種類は「生成AIへの入力」です。業務の情報を生成AIに入力し、外部のサービスに残った事故を指します。このサイトに掲載している事故のうち、同じ種類の原因で起きた事故は2件あります。

事故が起きてから公表されるまで

1. 2023年3月11日、半導体部門が社内で対話型の生成AIの利用を認めた
2. その後約20日の間に、社員がソースコードや会議の内容を入力した例が3件起きた
3. 3月30日、韓国の経済誌が3件を報道した。会社は1回の入力量を1024バイトに制限した
4. 5月1日から、社内のパソコンでの生成AIの利用を一時的に禁止した（5月2日に海外でも報道）

どうすれば防げたか

上の流れでは、最初から公表まで、途中で異常に気づいて止める仕組みが働いていません。

止められた可能性がある所（当社の見立て）

利用を認める前に、入力してよい情報と禁止する情報を決め、入力内容が学習に使われない契約や設定を選んでおけば、入力が起きても外部に残る範囲を狭められた可能性がある。

この見立ては、公表された原因から当社が考えたものです。当事者の調査の結果とは異なる場合があります。

自社で確認する3つの手順

上から順に、短い時間で確認できるものを並べています。

1. 社員が使っている生成AIサービスを洗い出し、入力内容が学習に使われる設定かどうかを確認する
2. ソースコード・顧客情報・会議録など、入力を禁止する情報を一覧にして社内に配る
3. 会社として認めるサービスを決め、それ以外への接続を記録または制限する

自社に同じ原因があるか

当てはまるものを選んでください。1つでも当てはまれば、この事故と同じ原因が自社にもある可能性があります。

出典と更新の履歴

• [단독] 우려가 현실로…삼성전자, 챗GPT 빗장 풀자마자 '오남용' 속출（이코노미스트）2023.03.30
• Samsung bans staff from using generative AI after source code leak（The Register）2023.05.02