AIってめちゃくちゃ便利ですよね。
俺も日々の作業で使い倒しています。
でも、AIを「ミスをしない完璧な存在」だと勘違いすると、俺みたいに痛い目を見ます。
この記事では、俺がAIを盲信して5000円をドブに捨てた話と、AIの嘘（ハルシネーション）を信じ込んで医者に変人扱いされた赤裸々な失敗談を公開します。
これを読めば、時間とお金を無駄にしない「AIの正しい使い方」がわかりますよ。
70万件のデータ処理で5000円を溶かした話
最近、仕事で70万件ほどのデータにラベリングをするという、目眩がしそうな作業があったんです。
人間が手作業でやるなら、条件を絞って一括ラベリング…みたいな感じで進められる作業。
でも、毎日の仕事疲れもあって「最新のAIならもっと賢く、一瞬でやってくれるだろ」って、Gemini 2.5 Flash Miniに丸投げしたんです。
結果から言うと、大失敗。
5000円分のAPI代が、ただの使い物にならないゴミデータに化けました。
「なぜ一部のデータでテストしなかったのか？」
冷静になった今なら、そう思います。
もし外注先の「人間」に依頼する時なら、絶対に最初は少量のテストアップをお願いして品質を確認するじゃないですか。
なのに、相手がAIだと無条件に「完璧にやってくれる」と信じ込んでしまったんですよね。
人間を疑って、AIを信じ切ってしまう。
この AIへの過信 、本当に恐ろしい罠です。
バリウム検査でAIに騙され、医者に鼻で笑われた話
AIの適当さを思い知った出来事がもう一つあります。
先日、過敏性腸症候群の症状が出ていて、薬を飲んでいたんです。
そんな時期にちょうど健康診断があって、「これ、バリウム飲んだらヤバいんじゃないか？」と不安になってAIに聞いてみたんです。
そしたら、AIのやつ「絶対にやめてください！危険です！」くらい勢いよく猛反対してきたんです。
それをすっかり信じ込んだ俺は、健康診断の当日に医者へ言いました。
「俺、過敏性腸症候群なんで、バリウム検査は駄目ですよね？」と。
医者の反応ですか？
「は？何言ってるんですか、頭おかしいんですか？」みたいな、冷え切った目で見られました。
医者の質が悪いところで有名なのもあるんだけど、正直ムカつきましたけど、まあそれは置いておいて。
で、結局そのままバリウム飲みましたけど、何の問題もありませんでした。
俺の不安を煽ったあのAIの回答は一体何だったんだ、と。
それからAIのことをあまり信じなくなりました。
そもそも俺はエンジニアなんだけど、仕事で依頼しても重大なミスをすることもあるし、ちょっと方向性がずれることもある。
俺はエンジニアだから、ああミスってるなと再度指示をして修正したりするけど、門外漢な事については、信じちゃうもんね。
まとめ
AIは確かに優秀です。
でも、平気で嘘をつくし、こちらの意図を完璧に汲み取ってくれるわけじゃありません。
- 「超有能だけど、たまに息を吐くように嘘をつく新入社員」
- 「普段は優秀だけど、体調とかメンタルによって雑な仕事をするおっちょこちょいな社員」
これくらいに思っておくのが良いのかも。
全部丸投げするんじゃなくて、一部のデータでテストする。
命や健康に関わることは専門家に裏取りをする。
AIは魔法の杖ではないということを身を持って知った出来事でした。