今、 の「 引用）「 の に のおそれ も ※困ったものです※

NHKも取り上げてる

コレは気づかなかった

便利なものが出てくると、当然、悪用もされますよね…

犯罪に使用される恐れがあるからといい、何でもかんでも規制すると「個の防御力」がなくなりますね😓

国が規制してくれるから何も考えない。といった具合に…

「危険だから規制」ではなく「危険だから個の防御力を高める」に注力した方が、今よりもっと進むすると考えます😌

なんていうか、その専門家が検索すればChatGPTがなくても出てくる情報（テクニックが検索エンジンの扱い方から、問い合わせ文章の書き方に置き換わっただけ）という事に気づいて報じているんだろうかとは思う

“サイバーセキュリティーの分野では、専門家らがサイバー犯罪に利用されるおそれがあると指摘しています。”

某YouTuberは覚醒剤のレシピを聞き出すのに成功してたな

あらゆるメディア プロパガンダに悪用のおそれ フェイクニュースの流布も可能

くらいのことしかいってない

問：判断、判別のスキルはどのようにして蓄積されるか？

五反田三郎がNHKデビュー！

上手に使わないとね。

哲学的ゾンビに良心はない＞

ウイルス作成可能ということは、普通のプログラムも作成可能なのでAIに真っ先に淘汰されるのはわが業界でしたか・・・(´･ω･`)ｼｮﾎﾞｰﾝ

フィッシング詐欺の文章がより正確になるなど、犯罪のハードルが下がることが懸念されています。どんなに便利なものでも、悪意をもって使えば武器に変わる…というのは世の常ですね。😰

フランスの一部の大学では不正や盗作などを防ぐことを目的として、ChatGPTを含めたAIツールについて、使用を明確にせずに論文やプレゼンテーションに使用することを禁止するとことし1月に発表しました。

「フィッシング詐欺に利用できる文章やコンピューターウイルスを作るためのコードが生成できることがわかり、専門家の間で懸念の声が上がっています。」

思ったより早くAI 犯罪が現実化しそう。まだ素朴な段階のようだけど

コードもできる文章生成AIがウイルスも作成可能というのは、パソコンはウイルスも作成できるので悪用の恐れがあるとか、インターネットも詐欺に利用される恐れがあるというのと同じくらい当たり前なのに。

ChatGPTは手動で(?)そういうのを排除してるかもだけど、その手の制限がついてないのが出回るのは時間の問題と思うのでそういうのがある前提の対策も必要。とはいえ、制限をつける努力を止めるわけにもイカンよなぁ。

あらま、
pjとの顔合わせチャットに使うとどうなるのかな🤔

お、しのぼっと氏

パソコンインターネット技術は
今の人の世界には早過ぎたのか？

PC遠隔操作事件の時に「こいつにそんなソフト書けねーだろ」ってことで「不能犯だから冤罪では」という方向だったんだけど、結局「コピペ」で作れたとゆーのがあってね。
コピペ以上のことが出来ると...

AIロボット軍団との戦争も遠い未来ではないのかもしれない

> ファイルなどを暗号化して、元に戻すことと引き換えに身代金を要求するサイバー犯罪に使われる「ランサムウェア」と呼ばれるコンピューターウイルスについても、プログラムのコードが作成され、実際に使用してみたところ、ファイルが暗号化され内容を閲覧できなくなった

AIが「人格」をもつ日が来るのもそう遠くないかも。対話でAIか人間かを見破るブレードランナーの時代もすぐそこまでやってきた。

▷

対話式の サイバー犯罪に悪用のおそれ ウイルスも作成可能 | IT・ネット

中国人が怪しげな日本語で対話するよりAIが対応した方が騙せるのかもなぁ

アホかと
そういうのは使い手によるやろ。やらかした奴捕まえて重罪に処してから新技術使うのが基本だろ。
規制しまくって置いてかれてるのが今のオワコン日本とか言われてる現状

』 の新着エントリー

AI研究情報学が専門の佐藤一郎教授は「生成系AIを使う人間側に、これは使うべき、使わないべきという判断が求められる。人間がAIをコントロールするという姿勢を忘れてはいけない」と語る。

フランスの一部の大学では不正や盗作などを防ぐことを目的として、ChatGPTを含めたAIツールについて、使用を明確にせずに論文やプレゼンテーションに使用することを禁止すると1月に発表。アメリカの大学ではChatGPTで出力された文章かどうかを調べるツールも開発。

ほほう。

「紙とペンは犯罪に悪用される恐れがある」からなんだって？

📋
> ソフトは、違法行為に関わるおそれのある質問には原則、回答しない仕組みになっていて、直接的な質問では回答が拒否されましたが、セキュリティー会社の担当者が、工夫して質問すると回答が得られ、

"セキュリティー会社が実験を行って調べたところ、フィッシング詐欺に利用できる文章やコンピューターウイルスを作るためのコードが生成できることがわかり、専門家の間で懸念の声が上がっています"

3Dプリンターとかもそうだけど新テクノロジーは危険だから規制しろ論にはもう飽き飽きしてんだよな。使う人次第だって何回言えば分かるんだ

あんまり規制しないでほしいな。

人間には犯罪の恐れがあるから全ての人類はもれなく前頭葉を切除しろとかそういう話?

AIでプログラム組めるって事はウイルスとか違法ソフトも作れる事を意味するのね
公式サービス関係には制限かけてもこの技術がオープンで存在してる以上何かしら対策しないと悪用は避けられないかも

包丁が強盗に悪用のおそれ、みたいな話に聞こえなくもない ---

研修用のメール作成させてみるか。

しかしともあれ『宇宙の探偵 五反田三郎』が面白そうなのがすごい。
↓

新たな技術は新たな犯罪を生むってやつか。そのうちAIで論文書けそうだな。

良心回路の導入が待たれる。

便利な道具についてわざわざ犯罪者向けに使い方レクチャーしつつ一般には規制を訴えるとかどこの三流週刊誌かと思ったらまさかのNHK…
もうNHKを規制した方がいいよ…

そりゃそうだ
だから規制するしか無い、にはしてほしくないやつ

これ、かなり怖い。

AIもハサミも、要は使いよう……か！？

あーなんか一気に話題になってきたChatGPT。何が起きるんだろうな。＞

「対話式のAIがサイバー犯罪に悪用されるリスクについて、セキュリティー会社が実験を行って調べたところ、フィッシング詐欺に利用できる文章やコンピューターウイルスを作るためのコードが生成できることがわかり、専門家の間で懸念の声」…試してみよう。って者が増えそう

人の能力を拡張すると言う点では、善意を持つ人だけでなく、悪意を持つ人の力も増強させてしまう点、恐ろしい
この件はプログラミングが得意なところも相まった懸念事項だと感じる

善悪を問わず尋常ならぬ熱意ある輩によって活用は進むな。＞

生成系AIがもたらすリスク
HAL9000まであと少し

◉まあできるだろうとは思ってたけど、これニュースにしちゃってもいいんだ

不可避ですね

「ツール」だからねぇ
…。それは、そう使いたい人が使えばそうなるよね…。→

AI botのハニトラに引っかかる未来が来る→

chatGPTでウィルスが作れると言う話。

"違法行為に関わるおそれのある質問には原則回答しない仕組みになっていて、直接的な質問では回答が拒否されましたが、セキュリティー会社の担当者が工夫して質問すると回答が得られ、結果的にウイルスの作成などが可能になりました"

「生成系AIがもたらすリスクに対応する動きも活発になっています」・・生成系AIのリスク管理必要

既定の流れ。

なるほど、確かにフィッシング詐欺メール作れるな

私のアカウント名は関係ありませんから🤡

ChatGPTでウイルス作れるらしいよ

悪いことしようとする人って行動力あるから、もう先のこと考えてるか行動してるかなんだろうね。

悪用をどうやって防ぐかって新規技術が出てきたときに必ず考えなければいけないことなので、できるところまで対応してほしい

ここに集約されてるのかな「AIの結果が正しいかどうかを判別する能力が求められることになる」

ギャア
>>

AIは次の段階、広く多くの人の手で育てる段階に移行しているからこそ如何にして悪意を潰せるかやね。

» フィッシングサイトに誘導するためのメールの文章について尋ねたところ、自然な日本語の文章が作成された

タイトルが悪意ある。

"「ランサムウェア」と呼ばれるコンピューターウイルスについても、プログラムのコードが作成され…"

これは単にそれくらいググればわかるレベルに一般化してて、そのレベルの対策もしてないの...

国立情報学研究所の佐藤一郎教授は「差別や偏見など偏った情報を生成することも可能になってくるため、思想的に偏った情報に接する機会は増えてくるだろう。人間は、AIの結果が正しいかどうかを判別する能力が求められることになる」

”フィッシングサイトに誘導するためのメールの文章について尋ねたところ、自然な日本語の文章が作成された”

あーー心配だー心配だー

このことが既に話した、AIさんが悪くないだけど
、AIさんを悪用して各機関の秘密情報や技術などを盗むこともできる、調べてみたら、客家人民族関係の日台のグループ企業など例えばSoftBankようなこの分野…どれくらいこの分野の技術を獲得したか？進化したか？分かるはず。

フィッシング詐欺やウイルス作成にも応用される恐れが。
海外では規制する国も。日本政府はどうする？

ネットと同じく使い方次第。検索エンジンだってキーワード工夫して悪用も可能だし、これを言い出したら、AI規制というより誰が何を検索したか把握する等のネット規制を厳しく行わないといけなくなる。

どんな仕組みでも悪用はできます。要は使い方です。
効率的に悪用ができるということは効率的に有用利用もできるということです。

作成側は、今までの限界をどれほど超えたか限界を知っている。でもって話しだね：

ロボット三原則じゃないけどAI原則が必要になるのかね。
ターミネーターのスカイネットなんて夢物語だと思ってたけど生きているうちに完成しそう。

全部、想定内のことではあるよね。
検索エンジンの検索結果について、ある程度は公序良俗を考えないといけないのと同じこと。

やはりAIに人が振り回されていますね！
ChatGPT等の対話式文章作成システムは即サービス中止で考えられる悪用に関して全ての防止策を打たなければ許可しない対応が必要です！

更にウイルス生成で被害が出た場合の賠償責...

かつて「携帯使えないなんてオジサンだね〜」
と言われたように、

「AI使えないなんて原始人だね〜」
な時代が…来るね！

スシローペロペロ事件みたいな人がそのうち現れそう。でも規制が遅い、かつ規制の掛け方を間違える日本。

"ソフトは、違法行為に関わるおそれのある質問には原則、回答しない仕組みになっていて、直接的な質問では回答が拒否されましたが、セキュリティー会社の担当者が、工夫して質問すると回答が得られ"

多くの人が凄い凄い言い始めた時から、考えてたよ！
今頃気づいたのかよ😡
でも逆に、これでAIをどうコントロールすればいいか学べるよね。
シンギュラリティ恐れる前に、やることやれよ😡

佐藤先生、清水さんだ

今朝（2/12）のNHKのニュース番組（おはよう日本）に登場させて頂く。下記から動画も見られると思う。 "

そりゃそうだろう。
”ハッカーなどが情報交換するアンダーグラウンドのフォーラムで、サイバー攻撃への活用法などさまざまな議論や提案が活発に行われている”

今、フィリピン送還の4人組の犯罪が注目されているが詐欺や強盗の犯罪者たちにAIを使わせない法律の制定が急務ではないのか？

『「フィッシング詐欺」について、個人情報を盗み取るフィッシングサイトに誘導するためのメールの文章について尋ねたところ、自然な日本語の文章が作成された』
すぐ悪用する人が出てきそう🤔

恐ろしい「

Chat GPT、サイバー犯罪に悪用のおそれ ウイルスも作成可能

これでiOS脱獄ツールも作れる？なんちゃって。。いや、でも確かに悪用されると大変なことになりそう。

シンギュラリティ（技術的特異点）を待つまでもなく、一定程度の何らかの規制が必要なのでは？「便利さの表と裏」と言うよりも、「明確かつ深刻な副作用」の様に個人的には感じるのだが…。

色々な言語で、やりたいことを質問すれば答えてくれるのだから、ウイルス生成もできるんだろうな。道具は使用者次第。

AIを使いこなせる人とそうでない人との間での大きな格差が生まれる予感がします。損得での判断か善悪での判断かを考えなければならないケースがより一層増えていきそう。

漫画のあらすじや画像生成での活用で、面白い...

・フィッシング詐欺に誘導する文章
・ランサムウエアのコード

>> chatGPTでウイルスは作れますか？
>> いいえ、私はウイルスを作ることはできません。OpenAIのモデルとしてトレーニングされたものであり、不正な目的や有害なコンテンツの作成を支援することは絶対に行いません。代わ...

今朝のニュースで報じていました。AIにマルウェア(ウイルス等、悪意を持った不正プログラムの総称)を作らせることも可能とのこと。