ジェンスパーク(Genspark)は嘘をつく：自信満々でも鵜呑みにしてはいけない理由

はじめに

「AIが言うんだから正しいはず」―そう思っていませんか？AI開発を始めたばかりの頃は、AIの回答を疑うことなく信じてしまいがちです。しかし、実際の開発現場では、ジェンスパーク(Genspark)が自信満々に提示した情報が間違っていることが報告されています。

今回は、AI開発の現場で直面した「AIのハルシネーション（幻覚）」問題と、その対策について実体験を交えてお話しします。

現在のGensparkは、この記事を最初に書いた2025年当時より機能が大きく増えています。現在できること全体については「ジェンスパーク(Genspark)とは？1年半使った筆者が、できること・メリット・注意点を解説」でまとめています。

AIハルシネーション問題とは

AIのハルシネーション（AI Hallucination）とは、AIが事実に基づかない情報を、あたかも正確な情報であるかのように自信満々に出力してしまう現象です。大規模言語モデル（LLM）は、学習データのパターンから「もっともらしい」回答を生成しますが、必ずしも事実確認を行っているわけではありません。

IBMの解説によると、生成AIは事実に基づかない情報をもっともらしく生成することがあります。つまり、これはAI開発において避けて通れない現実なのです。

AIハルシネーションそのものについては「AI初心者が最初に知っておくべき「AIハルシネーション」とは？」でも詳しく解説しています。

なお、この記事では利用者から見て「AIが事実と違うことを言う」事例を広く扱っています。厳密には、存在しない情報を生成する「ハルシネーション」と、実際には保存していないのに「保存しました」と答えるような「誤った完了報告」は分けて考えた方が正確です。

実体験1: Twitter API認証情報の「保存したつもり」事件

占いサイトの開発中、最も印象的だったのがTwitter APIの認証情報に関するトラブルでした。

ジェンスパーク(Genspark)の発言：「Twitter APIのキーを環境変数に保存しました。これでOAuth 1.0a認証が正常に動作するはずです」

このようなケースでは、実際にコードをデプロイすると401エラーが発生し、認証に失敗することがあります。

ジェンスパークは「作業完了」と報告することがありますが、実際にはファイルを開いて確認しない限り、保存されたかどうかは分かりません。

実体験2: 「問題を発見しました！」のはずが...

さらに厄介なのが、AIが「問題を発見して修正しました」と報告したケースです。

開発の途中、ジェンスパーク(Genspark)がこう言いました：「OAuth認証フローにバグを発見しました！署名生成の順序が間違っていたので修正しました」

しかし、実際にコードを見ると...

• 修正前と修正後のコードがほとんど同じ
• 指摘された「問題」は実際には存在しなかった
• むしろ、修正後のコードの方が新しいバグを含んでいた

AIは問題を「発見した」と思い込んでいましたが、実際には何も改善されていませんでした。これが複数回繰り返されると、開発効率が大幅に低下してしまいます。

実体験3: 企業リストのダミーデータ問題

GenSparkの機能紹介記事を書くために、「日本のAIスタートアップ企業リスト」をAIに収集させたことがあります。

ジェンスパーク(Genspark)は自信満々に20社のリストを提示してきましたが、ファクトチェックしてみると...

• 5社は実在しない架空の企業名だった
• 3社は既に倒産していた
• 4社の所在地や設立年が間違っていた

ジェンスパークは「最新情報を元に作成しました」と言っていましたが、実際には古い情報や創作した情報が混在していました。これをそのまま記事にしていたら、大きな信頼性の問題になっていたでしょう。

ネット情報収集の罠：古い情報への依存

AIに「最新の情報を調べて」と依頼しても、古い情報を参照してしまうことがあります。現在のGensparkのSuper Agentはライブブラウジングにも対応していますが、検索結果に古いページが含まれる可能性はあるため、情報の日時確認は必要です。

チェック方法

1. AIが引用した情報源のURLを必ず確認する
2. 記事の公開日・更新日をチェックする
3. 2026年9月時点で本当に最新かを検証する
4. 複数の情報源でクロスチェックする

GenSparkにはファクトチェック機能がありますが、現状では完全に信頼できるレベルではありません。人間による最終確認が不可欠です。

AIを信頼しつつも疑う：実践的な対策

では、どうすればAIの嘘を見抜けるのでしょうか？実践的な対策をご紹介します。

1. 重要な作業は必ず検証する

• ファイルの保存：実際にファイルを開いて内容を確認
• API設定：テスト実行して動作を確認
• データベース変更：直接SQLで確認

2. AIの「完了報告」を鵜呑みにしない

• 「保存しました」→実際に保存されているか確認
• 「修正しました」→何がどう変わったか差分を確認
• 「問題を発見しました」→本当に問題だったのか検証

3. 具体的な証拠を求める

• 「どのファイルに保存したか」
• 「何行目を変更したか」
• 「どの情報源から取得したか」

ジェンスパーク(Genspark)の回答は「提案」であり「絶対的な真実」ではありません。重要な作業は必ず人間が検証してください。

最近は、同じAIに自分の作業をチェックさせるだけでなく、別のAIにも確認させる方法も使っています。実際にClaude Codeで作ったソースをCodex・Antigravityに監査させたところ、それぞれ別の問題が見つかりました。詳しくは「Claude Codeで作ったソースをCodex・Antigravityで監査　今は1つのAIだけで開発しない方がいい」で紹介しています。

GenSparkのファクトチェック機能の活用

現在のGensparkには、主張や記事、URLを検証できる「AI Fact Checker」があります。Genspark公式によると、複数の情報源を検索し、証拠となるページのスクリーンショットを取得し、別のAIでもそのスクリーンショットが主張を裏付けているか確認したうえで、TRUE・FALSE・PARTIALLY TRUEの判定を返します。これはファクトチェックを容易にします。しかし、以下の限界も理解しておく必要があります。

利点

• 複数の情報源から情報を集約
• リンクをクリックして元情報を確認できる
• 証拠ページのスクリーンショットも確認できる

限界

• 引用が正確とは限らない
• 古い情報を参照している可能性
• 文脈が歪められている場合がある

生成AIのハルシネーション率は、モデルやタスク、評価方法によって大きく異なります。一律に「15-20%」とは言えないため、重要なのは、一つの数字を基準にするのではなく、AIの回答には間違いが含まれる可能性があるという前提で確認することです。

まとめ：AIは強力なアシスタント、でも最終判断は人間が

ジェンスパーク(Genspark)は開発を大幅に加速してくれる強力なツールです。しかし、完璧ではありません。

一般的に言えるのは、AIを信頼しながらも健全に疑う姿勢が最も重要だということです。AI Driveの仕様書保存機能を活用して、重要な情報は常に人間が確認できる形で保存しておくことをおすすめします。

次回は「ジェンスパークはすぐ忘れる」というテーマで、チャット画面の長期使用による問題と、AI Driveを使った対策方法をご紹介します。