Open AIは｢特定のプロンプトを削除することができない｣ため、機密情報を入力しないようにユーザーに警告しています。🫤

やるよね～

Samsung社員がChatGPTに機密情報を送信し問題に。OpenAIがAIの学習に使う分は良いが、1/100万の確率で全世界に気密漏洩するリスクは大きい。意識の高いSamsungですらこんな感じだから、日本の大企業の機密情報をChatGPTが出力してくれる可能性結構ある

コード？食わせて、機密情報漏洩の事件が起きてますね。

インプ多いので補足しておくと、ChatGPTは情報漏洩リスクのためにWeb版ではなくazure版使ってます！
最近サムスンでこんな事例もあったので、皆さんも業務で使う場合はお気を付けて😌

📰
➡️

Chat GPTは、ユーザーが入力した情報を使って学習を行うため、入力した内容は保存されています。
サムスンの従業員のようにならないように、機密情報には十分、注意して利用しましょう！
便利すぎるから、気持ちはわかるが、、、笑

何故どうなるか考えないのかw

この記事に乾いた笑いしか出てこない
SE/PGとは？
技術が伴ってないような子がやっちゃうのかなぁと思うと、恐ろしいね

なるほど・・・仕事で使ってる人とかいそうだし気をつけてね。

こうなるよな〜

だーかーらー・・・企業は生産性向上とかAI活用推進とかのまえに、こうなることをもっとちゃんと”自分で考えさせる”ことをしないと。うっかりではすまされないことになる。

これ、日本の国や企業もやっちゃってるのでは？
(´⊙ω⊙`)
機密情報やソースコードをペーストしてバグ取り。会議内容を入れて議事録作成。挨拶や企画書作成も、入れた情報は吸われる。こわー。

まあ韓国のサムスンらしいっちゃらしいですが、こういうことは日本でも起きかねないですからね。
こんなAIを日本の企業や国会で使うのはどうか？と思うし、個人的には日本が作ったAIのほうがまだ安全性があるような気もしますよ。

。oO（この手の問題は、ChatGPTに機密情報を質問として流してしまう阿呆 が出たことで、AI嫌悪派的には警戒しているんだろうな、と思っていたのだが、過大評価だったか。

これが他人事ではないから怖いね。特にIT屋は。

そのうち個人情報どころか、瞬時に人の思考、性格まで把握されてとんでもない世界になりそう。。。

こんな事例も・・・

これだから、、、買っちゃダメなやつ。

こういうニュースもありました

頭使えねえやつってどこにでもいるんだよな

進んでるな
・各社員のChatGPTへのプロンプトを1,024バイトに制限する｢緊急措置｣を発動
・従業員に対してChatGPTの利用禁止を解除してからわずか3週間後に、これらの情報漏えい
・独自の社内AIを開発中

日本の企業でも起きてるでしょこれ…

デバッグとか議事録の作成とか頼みたくなるよね……。あかんものはあかんけど……。送信を1024バイトまでにするという機械的な対策でもわりと有効なのかな？ 送信内容の妥当性をチェックするのは現実的ではないだろうし

いろんな会社でひっそりと発生していそう

1）バグがある半導体データベースのソースコードをコピーして修正を依頼
2）機密コードをコピーして欠陥のある機器の修正プログラムを依頼
3）会議音声をチャットボットに投げて、議事録の作成を試みた

ガースー政権は終わってるので、ゴリ押しデジタル革命は控えてほしいところです。

>ChatGPTの利用禁止を解除してからわずか3週間後に、これらの情報漏えいが起きてしまったことですね。
行政がこれやったら取り返しがつかなそう

部下へ指示する感覚だねw

1）バグがある半導体データベースのソースコードをコピーして修正依頼
2）機密コードをコピーして欠陥機器の修正プログラムを依頼
3）会議音声をチャットボットに投げて議事録の作成を試みた

韓国がーっていう人出てきそうだけど日本でも普通にやる人やりそう。政府に使わしたら余計にいそう。ソフトウェアみたいに独立型で売るのはできんのかな?

こわい。
安全な使い方も考えなくては。

「使用禁止」が一番のダメージ。

たくさん起きるんだろうな・・・。

「アンケートでは3%が機密情報を入力したことがあるという」…うわあ。

あらまあ

おおぅ。気をつけなはれや😊
>Samsungだけではない
>3.1%の人が1度は会社の機密情報をChatGPTに入力していることが明らかになりました。

議事録は結構やってる人多そう

笑えないのは他にもやってる企業があるところ、多分水面下では深刻なレベルでありそう…おはようございます

1）バグがある半導体データベースのソースコードをコピーして修正を依頼
2）機密コードをコピーして欠陥のある機器の修正プログラムを依頼
3）会議音声をチャットボットに投げて、議事録の作成を試

・機密コードの修正や会議音声からの議事録作成を試みた
・社員がPCの電源を切ってもChatGPTにはクエリが残り続けるのが課題
・3.1%の人が1度は会社の機密情報をChatGPTに入力しているという調査も

まぁ、こうなるよね。
皆様も同僚や部下が同じことをしてないか今一度ご確認を。

まあこういうアホが出てくるから使用禁止されるんだよな

出たww
そりゃそうなるだろう
ってか、わざとやってないか？サムスン

ChatGPT、便利ですが使い方にはやはり注意が必要ですね。
業務通知で使用を禁止する企業も増えるんだろーな🤔

やっちゃいましたね、サムスン。
コードをChatGPTに貼り付けてバグの検知や修整を頼むとか、やっちゃいたくなるよね。
みんなも気をつけよう！

人間の方の適応が間に合ってない実例

完全クローズドのコードは流石にまずそうだけど、例えばGithub Copilotへのコードレビュー依頼とか、これから多くのプログラマがしょっちゅうやることになりそう。

どこからが法務的な問題になるのかな。線引き難しそうな気もするけどどうなんだろうな。

どんな頭してたら原文をウェブコンテンツに投げれるんや…

3.1%の人が1度は会社の機密情報をChatGPTに入力しているとかこわすぎでしょ

「問題は、たとえ社員が即座にPCの電源を切ったとしても、ChatGPTにはクエリが残り続けるということです」

これ、なんでわかったんだろう

サムスン社員、

機密情報をChatGPTにリークして大問題に

OpenAIは
入力されたデータをすべて保存している…

4月10日

システムのソースのバグをchatGPTに流してバグ発見しようとした輩がいるらしい。chatGPT上にログとして残るらしいから機密情報漏れちゃったって話だそうです。

ほんとに3%かな。もっとありそうじゃが

さすがとしか言えませんねぇ(笑)

サムスンやらかしちゃったな(>_>)
これは大変というか可哀想というか…

うーわー、やっちまったな。

アホすぎ

サムスンさん。。。

おやまぁ。
MSと組んだ某メガバンクはまともやな

どういう経緯で発覚したんだろ。/こういうのが怖いので僕は「見」に回ります。

これ確かAzureでサービス作れるんだよね。自社に閉じたサービス作って、学び方を制限したりできないのかな。学び方を制限すれば解決すると思うんだけど。

やっぱりやらかす企業出てきた笑

そう言う事起こるわよね

漏えいが判明した経緯が知りたいな

これは対岸の火事ではないよね。。各企業がガイドライン作らないと、リテラシー低い社員が何も知らずに個人情報提供しちゃうケース頻発しそうだな。

ChatGPTによるセキュリティインシデントはしばらく続くだろうが、機密情報を活用できるほど利便性が高くなるのも事実

絶対こうなるよなって思って記事見たら冒頭に絶対こうなるよねって書いてあった

オプトアウトしない限りOpenAIは入力されたデータをすべて保存

機密情報を進んで提供しないように

まぁそうなるわな...

逆の言い方をすると、使えるということか

▼事例
1）バグがある半導体データベースのソースコードをコピーして修正を依頼
2）機密コードをコピーして欠陥のある機器の修正プログラムを依頼
3）会議音声をチャットボットに投げて、議事録の作成を試みた

バグがある半導体データベースって文言が何も分かってない奴が書いた感www

アホすぎるww

ここ最近で一番面白いニュースかも

官僚や国会議員など機密情報やそれに近い情報を入力した場合、機密を学習してしまうよね。

バレてないだけで日本企業の中の人もやらかしてるやろ。

入力データに機密情報を使っちゃったか…🥺

この入力データが学習に使われたら、プロンプトの魔術師達によって機密データを召喚されてしまうのだろうか😑

サムスンの社員、アホやん

これ。
気を付けないと便利そうだからとやっちゃいそうな件。

こういうゲームなんだけど（ここで情報がリーク）
こういうアイテムを100個考えて。

とかあるから、実制作とかには使いづらいなぁ、と思ってた。

だからSF妄想の話し相手として(ry

計算機のように、単純にクリアキーでリセット出来る存在では無いのです。
なぜ特定可能な情報を入力したのか...。

>3.1%の人が1度は会社の機密情報をChatGPTに入力

やっぱり日本人みたいにネットミーム回答させたり、「次に流行る性癖」を聞いたり、学習させて「アイドルと会話」したりするのが正しく安全な使い方なんだな。

こうなるからイタリアは使用禁止にしてドイツも同じこと検討してるのね

サムスンがChatGPTで情報漏洩した件。これから増えそうことは、そもそも情報漏洩いたことに気付かないことだろうね。そういう意味ではサムスンはまだマシ。
急いでITリテラシー研修もChatGPT対応させなければ。

chatGPTで社員が情報リーク。

Web系でも全然ありそう。
使ってもいいけど全コードコピペやセキュリティの部分は使用しないほうがよさそう。

使わなければ置いて行かれるし。
使う人のリテラシーが問われる代物。

機密情報投げるのは今後当たり前になるだろうし問題視するほうが感覚古くておかしいのでは

1）バグがある半導体データベースのソースコードをコピーして修正を依頼
2）機密コードをコピーして欠陥のある機器の修正プログラムを依頼
3）会議音声をチャットボットに投げて、議事録の作成を試みた

こういう事例既に国内でもありそう…w

バグ修正をChatGPTに依頼して
結果として全世界に機密コードをばらまく。

もはや、プログラミングはChatGPTで良いのかもしれない。

『現在サムスンは独自の社内AIを開発中です。』って、OpenAIのAPI使ったアプリを作ってオプトアウトを制御する訳か

まぁやらかすやつは出るよね…。さて、どう教育してゆくべきか。

うちの上司もほぼ同じことしてて草
機密とか社外秘とかじゃないからセーフはセーフだけど_( ˙꒳˙ )_

『エラー内容が英語で分からないから』という理由でサーバ名やIPアドレス他を含むテキストをそのままGoogle翻訳にかける意識低い人もな😜

なかなかおバカな従業員がいるんだねw
単純に規制をしたら良いとは思わないけど
利用者のモラル次第と言うのも考えもの
対岸の火事ではないなぁ

🤣

1）バグがある半導体データベースのソースコードをコピーして修正を依頼

2）機密コードをコピーして欠陥のある機器の修正プログラムを依頼

3）会議音声をチャットボットに投げて、議事録の作成を試みた

程度低すぎ🌿

1⃣バグがある半導体データベースのソースコードをコピーして修正を依頼
2⃣機密コードをコピーして欠陥のある機器の修正プログラムを依頼
3⃣会議音声をチャットボットに投げて、議事録の作成を試みた
素人ノリでわろた🐰

わぁお…気をつけないと普通にうっかりやりそうなのがこわいよねー

GIZMODO JAPAN:

広報的にも、この辺りは壁打ち相手になる、という利活用と両面で考える必要があるなと。配信前のプレスリリースの添削、とか、リリース文章を箇条書きにしてまとめて、とかは機密該当しそうですね。

どこの会社でもありそう…

有償のAPIは大丈夫ってお墨付き与えている企業も出てきたけど、freeの方の奴に個人情報、機密情報、未公開の情報などを入れてはいけませんよ。