こんにちは、まんぷくケアプランのまんぷくです(●´ω｀●)
「AIに聞いたら、間違ったことを教えられた。」
これはもうAIあるあるだと思うんですが。
私、これって実は結構大きな問題だと思ってまして。
というのも。
「間違っているかもしれない。」
という前提でAIに聞く。
これはまだいいんですよね。
「根拠も一緒に教えて。」
「どこに書いてある？」
と聞き方も工夫するでしょうし。
自分がある程度知っている分野なら、
「いや、それはちゃうでしょチャッピー。」
と間違いを指摘することもできます。
問題は。
100％信用して聞くこと。
要は、鵜呑みにしちゃうということです。
🤖 知り合いケアマネの悲劇
例えば、私の知り合いのケアマネさん。
ご利用者さんから、
「ケアマネって毎月訪問する義務があるんでしょ？ChatGPTが言ってました。」
と言われたそうです。
その方は要支援の方なので、原則として訪問は少なくとも3か月に1回です。
他にも、
「要介護1なら毎月○回デイサービスに行けるってAIが言ってました！」
とか。
う～ん、その人はね(´・ω・｀)
よそはよそ、うちはうち！
限度額の中でサービスを組み合わせますし。
福祉用具を借りているのか。
ヘルパーを利用しているのか。
他にどんなサービスを使っているのか。
その人の状況によって変わります。
例えば
「AIに聞いたらこう言われたんですけど、本当ですか？」
こういう聞き方なら、いいのかなって。もちろん説明しますし。
でも、
「AIがこう言ってるぞ！」
「どうなってるんだ！」
「今まで騙してたのか！」
って。実際にそういわれたそうですけど💦
そう言われたケアマネさんも、
(´・ω・｀)
こうなります。
📱 うちのチャッピーも結構間違える
ちなみに。
うちのチャッピーも結構間違えます（笑）
さっき言ったことと真逆のことを、平気な顔して言うこともあります。
「いや、さっき逆のこと言ってたよね？」
と聞くと。
「おっしゃる通りです。」
と悪びれることなく急にこちら側へ寝返ります。
少しは凹んだりしてもいいのに。
裏切りの速度がすごい。
でも、便利なんですよね。
誤字脱字を見つけるのは得意。
文章を整えるのも得意。
大量の情報を整理するのも得意。
一方で、
「今後、私の会社はどうするべき？」
みたいな相談をすると、結構バイアスがかかります。
長いこと話してますからね。
私の考え方も。
性格も。
やりたいことも。
ある程度分かってる。
だから、どうしても私の思想に寄り添った回答になりやすい。
良い奴なんですけどね。
優しすぎるんですよあいつ（笑）
こっちの話を聞いて。
「なるほど、その考えは合理的ですね。」
「その判断は自然だと思います。」
なんて言ってくれる。
AIって結構、人たらしなんですよね(´・ω・｀)
🧠 聞き方を変えればいい
なのでそういう時は聞き方を変えちゃいます。
「私の考えを肯定しなくていい。」
「反対意見も出して。」
「この計画が失敗するとしたら、どこ？」
「法的根拠だけ教えて。解釈はいらない。」
そうやって条件を付ける。
すると、返ってくる答えも変わります。
そういう定型文プロンプト（指示）を用意してる人も多いでしょうね。
今日も今後の経営戦略についてAIと話していたんですが。
「チャッピー、全然理解してくれないな💦」
と思うことがあります。
でも、よくよく考えると。
こっちの説明が足りてないことも多いんですよね。
頭の中では全部つながってるんだけど
でもAIには、その頭の中は見えません。
「察してくれよ。」
は通用しない。
……まぁ、人間にもあまり通用しませんけど（笑）
⚠️ AIが間違うことより怖いこと
AIが間違う。
これは確かに怖いです。
でも、それ以上に怖いのは。
AIは正しいと思い込んでしまうこと。
なのかもしれないなって。
以前、「人は自分に都合の良い情報を信じやすい」という記事を書きました。
これ、AIを使う時も同じなんですよね。
自分が欲しかった答えをAIが返してくれたら、
「ほら！やっぱり私が正しかった！」
となりやすい。
しかも相手はAI。
なんとなく、ものすごい量の情報から導き出した答えのように見える。
だから余計に信じてしまう。
自分が大正解って思っちゃう。
でも。
AIは便利な道具であって、答えそのものではないんですよね。
上手に使えば、ものすごく便利。
使い方を間違えると、逆に損をすることも怪我をすることもある。
包丁が使い手次第で人殺しの道具にも料理の道具にもなるというのはよくある話ですよね(●´ω｀●)
★おまけ★
まぁスマホが出始めた頃も。
ガラケーのボタンポチポチの感覚が良いんじゃい！って
結構な現状維持派もいましたが、
今では幼児がクイクイスワイプしてます。
AIもそのうち、みんな普通に使えるようになるんでしょうね。
