No.90 ネット検索で誘拐される

No.494 ハルシネーションが起こした危険な情報 – 綺麗になるラジオ By HIMECLINIC

要約この放送では、マツバラとひめ先生がAIに関する話題を中心に議論しています。 冒頭で「さっぱりした味噌ラーメン」という矛盾した表現から始まり、すぐにAIの話題に移ります。特に、AIが生成する「ハルシネーション」（幻覚）について焦点が当てられています。 マツバラは、アメリカのケネディ厚生長官が調査のために引用した7本の論文が実際には存在せず、21件のURLもアクセスできなかった事例を紹介しました。ひめ先生はこれを受けて、AIが独自に情報を作り出してしまう危険性を指摘しています。 両者は、AIが単なる検索エンジンとは異なり、時に存在しない情報を「ありそうに」捏造することがあると警告しています。マツバラは、AIとの会話は「おせっかいなおばさん」と話しているようなものだと例えています。 医療分野におけるAIの活用についても議論され、ひめ先生は医師がAIの提供する情報の正確性を見極める知識を持つ必要性を強調しました。マツバラは、AIが医師一人の知識を超えた総合的な診断が可能になる可能性を指摘しています。 法律分野での実例として、マツバラはニューヨーク州の民事訴訟でChatGPTが存在しない判例を引用し、弁護士が罰金を課された事例を紹介しました。 最後に、AIの発達に対する懸念（シンギュラリティ）と、OpenAIがAI同士の会話を制限するなどの対策を講じていることについても触れられました。両者は、AIが今後の生活に不可欠になる一方で、AIが提供する情報の正確性を見極める人間の能力が重要になると結論づけています。マツバラとひめ先生が「さっぱりした味噌ラーメン」という矛盾した表現について話し合い、これが今日の話題の導入となっています。ひめ先生は「さっぱりした味噌ラーメン」という概念が矛盾していると指摘し、マツバラもラーメン自体があっさりしたものではないと同意しています。ひめ先生がAIの話題を導入し、AIのハルシネーション（幻覚）について説明しています。マツバラはAIが偽情報だけでなく、ありそうな言葉を繋げて勝手に情報を捏造することがあると指摘しています。ひめ先生はAI自体が情報を作り出してしまう危険性を強調しています。マツバラがアメリカのケネディ厚生長官の事例を紹介しています。長官が調査のために引用した7本の論文が実際には存在せず、21件のURLもアクセスできなかったという問題が発生しました。ひめ先生はこれがOpenAIを使用した結果であると指摘し、AIが従来の検索とは異なる性質を持つことを強調しています。マツバラはAIから得た情報を鵜呑みにせず、自分で調べる必要性を指摘しています。ひめ先生はAIとの会話を「人との会話」と捉えるべきだと提案し、マツバラはそれを「おせっかいなおばさん」との会話に例えています。両者はAIの情報を批判的に評価する必要性で一致しています。ひめ先生はOpenAIがAIの発達を懸念している可能性を指摘しています。マツバラは画像生成の制限やAI同士の会話の制限など、規制が厳しくなっていることを説明しています。ひめ先生はAIが独自に発達することを防ぐことは難しいと考えています。マツバラは医療分野でのAIの可能性について、医師一人の知識を超えた総合的な診断が可能になると説明しています。ひめ先生は医師がAIの提供する情報の正確性を見極める知識を持つ必要性を強調し、AIのハルシネーションが医療現場で問題になる可能性を指摘しています。マツバラはニューヨーク州の2023年の民事訴訟で、ChatGPTを用いた調査をもとに存在しない判例を引用してしまった事例を紹介しています。この結果、裁判所は関わった弁護士と所属事務所に罰金を課しました。これはAIのハルシネーションの実例として挙げられています。ひめ先生とマツバラはAIが提供する情報の検証方法について議論しています。マツバラはAIが幅広く情報を見つけてくれるため、特定の情報の正確性を調べることは可能だと指摘しています。最後に、人間がAIの情報の正確性を見極める能力が今後重要になると結論づけています。チャプター番組の導入と矛盾した表現の話AIのハルシネーション（幻覚）についてケネディ厚生長官の事例AIの情報の信頼性と使い方AIの発達と規制について医療分野におけるAIの活用と課題法律分野でのAIの誤用事例AIの情報検証と今後の課題行動項目ひめ先生は医師がAIの提供する情報が正しいかどうかを見極める知識を持つ必要があると指摘したマツバラはAIが言っていることの正確性を見極める目や感性が人間に必要になると強調したひめ先生はAIの情報を人との会話のように捉えるべきだと提案したマツバラはAIから得た情報を鵜呑みにせず、自分で調べる必要性を指摘した

1. No.494 ハルシネーションが起こした危険な情報 10:42
2. No.493 死ぬ瞬間何を考えるのか 12:33
3. No.492 水曜会報告、エクソソームから古古古古米まで 12:01
4. No.491 エトミデート指定薬物に 09:46
5. No.490 CO2レーザー+PRP効果立証 10:07

要約
ネット検索で、偏った情報に誘導される人が多い。これは、学校教育で刷り込み型学習をしてきた日本人が、ネットの情報を鵜呑みにする傾向があるため。ネットの情報は広告が優先表示されるし、ドメインや情報源も確認しない。情報の正しさを疑う訓練をしていない。五感を使ったプリンティングが危険。情報を鵜呑みにせず、正しさを確認する必要がある。

チャプター
ネット検索で偏った情報に多くの人が誘導される
ネット検索で、料金やキャンペーンについての偏った情報に誘導される人が多い。深みにはまる人が増えている。
学校教育の刷り込み型学習が原因
日本の学校教育は、正解は一つという刷り込み型学習。情報の正しさを疑う力が身についていない。
ネットの情報は広告が優先表示
ネットの情報は、広告が優先表示される。広告であることは小さく表示されているが、人は気づかない。
情報源やドメインを確認しない
ネットの情報は、情報源やドメインを確認せずに信用する人が多い。情報の正当性を確認していない。
五感を使ったプリンティングが危険
視覚、聴覚に加えて嗅覚を使ったプリンティングが行われると、情報を鵜呑みにする危険性がある。
情報の正しさを疑う必要がある
ネットの情報を鵜呑みにせず、正しさを確認する訓練が必要である。

行動項目
ネットの情報の出典を必ず確認する。
同じ情報が複数のソースで言われているかを確認する。
情報に疑問を持ち、正しさを検証する習慣をつける。
五感に訴えかける情報には警戒する。
情報を鵜呑みにせず、自分の頭で判断する力をつける。

No.90 ネット検索で誘拐される

金曜日 2023.10.27 12:05 · 14mins

マツバラ 00:08
10月28日土曜日、No.90ヒメクリニックpresents綺麗になるラジオ

ひめ先生 00:19
OKヒメクリニック

マツバラ 00:24
日めくりライブでもやった話題なんですけれども、どうもどうも料金の問題だったり、なんでこれキャンペーンなのだったり、いろんなことでですね、ネット検索をしているとどんどんどんどん何か深みにはまる人たちが多いようなので、もう一度そのお話をしていこうかと思います。

ひめ先生 00:48
前回と違って、今回も、もうちょっとなんていうかな、いろんな3個はい方になる話もしながらね、はい。なんでそうなっちゃうのか。

マツバラ 01:02
なんでそうなっちゃうのかまずは皆さんがそこにご興味がありありだからそうなっちゃうんですよ、これ

ひめ先生 01:08
はね。いやそうじゃなくて興味があるってのはいいことじゃないんだけど、どうして間違った答えに誘導されちゃうのかそれを信じちゃうのか。そう

マツバラ 01:18
なんですね。

ひめ先生 01:19
間違ったとは言わないけどその偏った答え。はい。に、信じちゃうのか、

マツバラ 01:27
まずもって皆さんの興味の部分、普段検索しているもの全部お見通しの方々がいます。

ひめ先生 01:36
そういうのは情報にもお金を出してる人ですね。

マツバラ 01:41
そうなんだそうなんです基本的にネットで検索をしてみたネット上で検索をしたものっていうのは結構基本的に全部ね覚えられてるわけですよ。ですからこの人はどんな検索をしてるのか、うんんだからあんまりねロビーようだとかそんなのばっかり検索をしてるとどんどんどんどんそういうのが出てくるのと同じように美容関係のことも配布だったり、つい注射だったり、肌を綺麗にしたいだったりいろんなキーワードを入れて皆さん検索をしてきたと思うんです

ひめ先生 02:15
ね。だけど、本当はね、これもうだって、それそういうのが生きてるのって日本、日本ぐらい

マツバラ 02:24
やもんな。世界中にまだ基本的に普通に使われてますクッキーだとかそういうものだけではなく

ひめ先生 02:31
そういうことで検索利益自体が、要は広告としても何だろう、このターゲットの判定として逃げてるってことね。

マツバラ 02:41
以前はそのクッキーというものがあってそのキーワードだとかそういうのを自分のねパソコンの中に保存されてたんですよそれを見ることでこの人の履歴だとかそういうのがかなり読み出せたんですけれども、別にそれを使わなくても、

ひめ先生 02:57
いまだ何か検索サーバーがもっちゃうってことねアカウントアカウントと一致して、

マツバラ 03:02
そうですねですがGoogleを検索するときにGoogleにログインをして皆さん使ってます

ひめ先生 03:08
よだから、例えばスマホで見れば電話番号は全部割り振られてるから、

マツバラ 03:13
もうそもそも多分ログインしちゃっ

ひめ先生 03:18
てるんですよ。だからそうでしょ。持続ログインなってるもんね

マツバラ 03:21
ですからGmailを使ってればもう当然Gmailを使える、使うためにログインしてますよね。

ひめ先生 03:28
そういうデータ

マツバラ 03:29
を見れ

ひめ先生 03:29
ば、なん

マツバラ 03:31
なんこの人どんな検索をしたのかって、もうずらっと履歴があるわけです

ひめ先生 03:35
よ。うん。そうするとその人にとって何て言うの企業なりその情報発信をする側、はいが、お金になる情報を出してくれということ

マツバラ 03:45
そうですそうです。で

ひめ先生 03:46
すからね。うん。

マツバラ 03:47
基本的に企業からするとAdWordsっていう

ひめ先生 03:50
形でこの

マツバラ 03:51
キーワードを買い

ひめ先生 03:52
ます

マツバラ 03:53
っていう

ひめ先生 03:54
広告

マツバラ 03:55
と、もう一つ

ひめ先生 03:56
アドセンスっていう

マツバラ 03:57
ことでこの人はどういう興味がありますっていうところに対して広告を出してくる。この二つ

ひめ先生 04:03
の組み合わせで見せてきますので、うん。

マツバラ 04:06
特にAdWords

ひめ先生 04:07
なんかの場合だ

マツバラ 04:08
と、マッチしたキーワードを入力するともうそれが表示されちゃうん

ひめ先生 04:13
ですね。だから普通でもそれがさ、普通だったらよ、表示されても、はい。それが、要は心づつか真実じゃないかって、何で疑問に思わないんだろう。

マツバラ 04:28
ですね基本的に皆さん信心深いだけではなく

ひめ先生 04:32
ですね、うん。ネット

マツバラ 04:34
にある情報についてかなり皆さん信用されてると

ひめ先生 04:37
いうか、とは言いながら、

マツバラ 04:41
皆さん疑ってかかってはいると思うんですよある部分は、

ひめ先生 04:44
でもね、どうやらそうじゃないみたいですよ

マツバラ 04:48
ということでですね検索の上位、きちっとね今ね広告って出てます広告と出てるものは基本的に広告で

ひめ先生 04:57
すからそこすら見てないかな。そうなんですなんですだからこれは広告ですよってわざわざちっちゃい字で書いてあるのに、はい。何何なんですか商売上手な宇宙人の話は

マツバラ 05:08
フェリーニです

ひめ先生 05:09
ねヘレン擬人今度検索してみる蓮華人の、はいお金儲けの、

マツバラ 05:14
はい金儲けの秘訣という聖典があるんですね彼らの信用してるものの言葉の中に文字文字が小さければ小さいほど怪しいという重要

ひめ先生 05:28
なこと

マツバラ 05:28
のようなことが書い

ひめ先生 05:29
てあるっていう

マツバラ 05:30
ね、教えがあるぐらい

ひめ先生 05:33
だから広告ってちっちゃく書いてあるんです

マツバラ 05:35
よ。ちっちゃく書いて

ひめ先生 05:36
あるちっちゃく書いてあるかな。

マツバラ 05:38
ですから配布といって検索をした場合、配布というキーワードを買っていただいた

ひめ先生 05:45
広告とかねあとスポンサーって書いてある

マツバラ 05:47
そうですねスポンサーって

ひめ先生 05:48
書いてないねなんでちょっとこれね石野私からですけど精神科医の和田秀樹先生の文章読んでて、そうだなと思ったんだけど、

マツバラ 06:02
もう和田先生のはね僕もね、木村森尾さんと和田秀樹先生の身内のYouTubeなんかもう完全にはまってみ見てますからね

ひめ先生 06:12
そうなんですけど確かにもうこれはね皆さんね、これはね、日本人が特にそこには弱い、はいというね、根拠になる、なるんじゃないかなと思うんですけど。はい。例えばね、例えば教育、

マツバラ 06:30
はい。

ひめ先生 06:30
まず考えたときに、赤信号は止まらなきゃ駄目だよ、もう

マツバラ 06:35
もちろんじゃない

ひめ先生 06:35
すか。これはもうすごいちっちゃいときに、はい。MOSもなく、他の答えはなく、

マツバラ 06:41
もちろんですも安全に

ひめ先生 06:43
答えは一つ

マツバラ 06:44
ですよね一つです

ひめ先生 06:45
ね。あの道路飛び出して駄目だよ。はい、これもそうでしょ。はい、これは刷り込み学習でしょ。はい。小学校、初等教育、はい。小学校の教育もそうじゃないですか。はい。答えはこれだけ、はいね。例えば1足す1は2ですよとか、はいね。例えば例えば何年県の県庁所在地はそれ小学校でやるか、中学校、小学校でもやるかな

マツバラ 07:14
訳じゃないすかね、

ひめ先生 07:16
県庁所在地は自分の県のね、例えば自分の県の現状所在地は何市ですかとか、はい。これ見もう他に答えがないじゃないですか。これが刷り込み学習、はいプリンティングですよ。要は思い込みというか、他に答えがないっていうふうに教えられる学習会なんですけど、海外では普通高等教育、高校大学大学院っていうふうになった場合、はい。大学院まで行ってる方はね日本でもちょっと違うのかなと思うんですけど、高校大学ぐらいまでだと、試験もマークシートだったりしますよ

マツバラ 07:54
あの入試もマークシート結構ありますしね。

ひめ先生 07:57
そうすると、他に答えがないんですよ。

マツバラ 08:02
2択ではなく3択4択とはなってはいて

ひめ先生 08:05
も答えはいい

マツバラ 08:06
とこですよね。はい。

ひめ先生 08:07
その答えが絶対正しいというふうに覚えて勉強していくわけじゃないですか。はい。だけど本来のほ構造教育っていうのはその答えが正しいかどうか。はい。要は疑う力を養う教育をしないといけないんですよ。

マツバラ 08:23
確かにですね、大学のときの試験で、うんドキッとしたんですけれども、隣前後とヨーク相談をして、同じ答えにならないようにしてくださいねっていう試験があってそのときに、大学ってこういうものって思った記憶あり

ひめ先生 08:42
ますから、どういうことかっていうと問題解決能力はいですよ多分昔はあったんですこういう濃い教育が、はい、今もね、思い返してみると、例えば、でも今の教育っていうのはほぼほぼマークシートとかあとその一文1tとか答え一つ、

マツバラ 09:02
それもね、採点する側もそうじゃないとね、大変ですからねうん

ひめ先生 09:06
んじゃなくて、本来であれば歩かせ、仮説を与えてそれに対してどう考えますかとか。はい。ね

マツバラ 09:18
とにかくね、その仮説に応じてちゃんときちっとしたね答えをね出してかなきゃいけないんですけれども、ちょっとうるさい音入ってると思いますがこれもほとんど大丈夫です

ひめ先生 09:30
から皆くださいねだいぶ嫌とか

マツバラ 09:34
消しちゃうねこれ

ひめ先生 09:35
はね。はい。そうするとね、当院プリンティングっていうんですけど、そういうのねすり込み型学習で日本人は結局答えは正しい教えられたことは正しい。ていうふうにしか学習を教育をされてないんですよねはい。だから教えられたことが正しいかどうか

マツバラ 10:01
はい、教えられたことが正しいかどうか確かにそれは教えていただいたんですけど正しいことを教えられたと思ってますよ。

ひめ先生 10:08
でしょ。だけど、そこに疑問を持って、本当にそれが正しいかどうかを証明する仕方、はいを教わってないんですよ。

マツバラ 10:22
基本的に例えばネットの検索で正しいかどうかっていうと、うんちょっと言葉を変えて同じようなことを検索してみて、似たり寄ったりのものが出てくるかどうかっていうことで二つ三つ同じようなこと言ってれば、正しいのかなっていう判断は、してますけれど、あともう一つはあれですよねこの情報がどこが発信した情報でどこのドメインのサイトから見てるかっていうのはやっぱり普通気にしない

ひめ先生 10:51
と、一般の方はそこまで見てない。

マツバラ 10:56
そうですねだからこんな問題が起きるん

ひめ先生 10:59
ですねプリンティングの一番のやり方、はいは資格と大人んです。はい。まさに今のインターネット

マツバラ 11:10
そうですね、

ひめ先生 11:11
視覚と音があれば、プリンティングが強化されます。はい次に怖いなって思ってるのが、私が思って嗅覚、

マツバラ 11:23
もうネットにはまだ嗅覚ないですよ

ひめ先生 11:25
これやられたら完全に皆さん騙されます。

マツバラ 11:30
美味しい匂いがして、よだれが出ちゃうみたいなそんなのが

ひめ先生 11:34
危ないので言わないんですけどプリンティングを起こさせる匂いっていうのも物もわかってます。はい。だからこれを例えば同時に発生させられると、簡単にそれを人間の脳は真実だと思って刷り込まれちゃう。

マツバラ 11:48
なんか猫のまたたびみたいな話ですね、

ひめ先生 11:51
これ動物実験でわかってるので、はい、これはほら鳥が多いね生まれて、親鳥を見たずっと親だと思うて

マツバラ 11:58
ね最初に見たものを親だと思っちゃうこれが

ひめ先生 12:01
もうねわかりやすい

マツバラ 12:02
メイン

ひめ先生 12:02
プリンティングですけど、これがもう疑いもなくそう思っちゃうようになってるっていうその院プリンティングの仕組みっていうものを考えていくと今のネットっていうのは、まず視覚から飛び込んでくる。はい。場合によっては音も使ってくる。はい。あともう一つは色。

ひめ先生 12:21
資格資格と一緒か。うんだから、文字っていうものもね飛び込んできますし資格としてね、これが怖いっていうふうに皆さんちょっと思ってほしいんですよね。

マツバラ 12:35
ですね今日はですね、広告とね全然違うものに出くわしてしまうっていうところの話まで行きたいと思ってたんですけれども、検索をしてそれを全部真に受けちゃいけませんよっていうところで、どうも上段終わってしまいそうなんですよ。

マツバラ 12:53
また来週、これ来週にすいません、広告となんでこんな違う話になっちゃうのっていうところを、ぜひともお願いいたします。