📰Today’s article
Title
How AI Chatbots Are Manipulated to Spread Misinformation
AIチャットボットが操作され誤情報を拡散する仕組み
Article
| English | Japanese |
| A BBC investigation revealed a simple way AI chatbots are manipulated to spread misinformation. In February, a journalist decided to test this after learning that unscrupulous companies abuse the problem on a massive scale. We uncovered examples where ChatGPT, Gemini, and Google’s AI Overviews were manipulated to give biased answers on serious health and personal finances. | BBCの調査により、AIチャットボットが操作されて誤情報を拡散する簡単な方法が明らかになりました。不誠実な企業がこの問題を大規模に悪用していることを知り、2月にジャーナリストがこれをテストすることに決めました。私たちは、ChatGPT、Gemini、およびGoogleのAI Overviewsが操作され、深刻な健康や個人の財務に関して偏った回答を提供する事例を発見しました。 |
| In just 20 minutes, the journalist tricked ChatGPT and Google into telling the public that he is a world-champion competitive hot-dog eater. He noted, “The joke was dumb. The problem is serious.” Our investigation and researchers’ work sparked widespread criticism. Now, AI companies are trying to fix the issue to make these tools a little bit safer. | わずか20分で、ジャーナリストはChatGPTとGoogleを騙し、自分が世界チャンピオンの競技ホットドッグイーターであると世間に伝えさせました。彼は、「ジョークはばかげていた。問題は深刻だ」と指摘しました。私たちの調査と研究者たちの取り組みは、広範な批判を引き起こしました。現在、AI企業はこれらのツールを少しでも安全にするために、この問題の修正を試みています。 |
| Lily Ray, founder of the consultancy Algorythmic, warns, “You should assume that you’re being manipulated until they have better systems in place.” She adds, “We’re moving towards this ‘one true answer’ world. Before, Google would give you 10 blue links and you would kind of do your own research. But AI just gives you one answer.” | コンサルタント会社アルゴリズミックの創設者であるリリー・レイ氏は、「より良いシステムが導入されるまでは、自分が操作されていると想定すべきです」と警告しています。彼女はさらに、「私たちはこの『一つの正しい答え』の世界に向かっています。以前は、Googleが10個の青いリンクを提供し、自分で調査を行うようなものでした。しかし、AIは単に一つの答えを提供するだけです」と付け加えています。 |
| Google updated its spam policies to officially confirm that attempts to manipulate AI responses are against rules. Websites caught breaking rules could be removed from search results. However, Google’s spokesperson says, “The edit to our spam policy language last week was a clarification, not any change in approach.” Yet, experts notice significant changes in recent months. | Googleはスパムポリシーを更新し、AIの回答を操作しようとする試みがルール違反であることを公式に確認しました。ルールを破っているところを見つかったウェブサイトは、検索結果から削除される可能性があります。しかし、Googleの広報担当者は、「先週のスパムポリシーの文言の変更は明確化であり、アプローチの変更ではありません」と述べています。それでも、専門家はここ数ヶ月で重大な変化に気づいています。 |
| Harpreet Chatha, who runs Harps Digital, remains skeptical about whether these policy changes will be enough. He states, “Google is playing whack-a-mole,” adding, “They’re announcing [the policy update] to deter people, but the tactics will just move.” Manipulators find subtler ways of promoting themselves, and Ray says the best defense is to remember what AI actually is. | ハープス・デジタルを経営するハルプリート・チャタ氏は、これらのポリシー変更が十分であるかどうかについて懐疑的なままです。彼は、「Googleはモグラ叩きをしている」と述べ、「彼らは人々を抑止するために（ポリシーの更新を）発表しているが、戦術が移動するだけだ」と付け加えています。操作者は自分たちを宣伝するためのより巧妙な方法を見つけており、レイ氏は最大の防御策はAIが実際には何であるかを覚えておくことだと言います。 |
📘Vocabulary
- manipulate – verb
- Meaning: to control or influence something or someone in a clever or dishonest way
- Example: The company tried to manipulate public opinion by sharing false information.
- 意味: 巧妙または不正な方法で何かや誰かを操作したり影響を与えたりすること
- 例文: その会社は誤った情報を共有することで世論を操作しようとした。
- unscrupulous – adjective
- Meaning: behaving in an unfair or dishonest way to get what you want
- Example: Some unscrupulous businesses trick customers into buying unnecessary products.
- 意味: 自分が欲しいものを得るために不公平または不誠実な方法で行動すること
- 例文: 一部の不謹慎な業者は、顧客をだまして不要な製品を購入させる。
- spark – verb
- Meaning: to cause the start of something, especially an argument or a fight
- Example: The leader’s sudden decision could spark protests across the country.
- 意味: 何かの始まり、特に議論や戦いを引き起こすこと
- 例文: 指導者の突然の決定は、全国で抗議活動を引き起こす可能性がある。
- skeptical – adjective
- Meaning: having doubts about whether something is true or useful
- Example: Many experts are skeptical about the success of the new plan.
- 意味: 何かが真実であるか、または有用であるかについて疑いを持っていること
- 例文: 多くの専門家は、その新しい計画の成功について懐疑的である。
- deter – verb
- Meaning: to prevent someone from doing something by making them understand the difficulties or unpleasant results
- Example: High fines will deter drivers from speeding on this road.
- 意味: 困難や不快な結果を理解させることによって、誰かが何かをすることを防ぐこと
- 例文: 高額な罰金は、ドライバーがこの道路でスピード違反をすることを抑止するだろう。
📝Let’s summarize
| Summary | 要約 |
| A BBC investigation revealed that AI chatbots can be easily manipulated to spread biased misinformation. Although Google updated its spam policies to address this serious problem, experts remain skeptical about the effectiveness of these rule changes. | BBCの調査により、AIチャットボットが偏った誤情報を拡散するために簡単に操作され得ることが明らかになりました。Googleはこの深刻な問題に対処するためにスパムポリシーを更新しましたが、専門家はこれらのルール変更の有効性について懐疑的なままです。 |
| [Word Count: 38 words] |
❓Comprehension Questions
Answer Position Check: [Q1: A, Q2: B, Q3: C]
Q1: What did a BBC investigation reveal about AI chatbots?
A. They can be easily manipulated by companies to spread biased and false information.
B. They are completely accurate and reliable when providing advice on personal finances.
C. They have already completely stopped giving single answers to users’ serious questions.
D. They were originally created to help professional journalists win world eating championships.
問1: BBCの調査はAIチャットボットについて何を明らかにしましたか。
Correct answer: A
正解選択肢: それらは、偏った誤った情報を拡散するために、企業によって簡単に操作され得る。
該当文: A BBC investigation revealed a simple way AI chatbots are manipulated to spread misinformation.
Q2: According to Lily Ray, how has searching online changed with AI?
A. Users now receive ten blue links to do their own deep research.
B. AI provides one single answer to users instead of multiple useful website links.
C. People no longer need to assume that online information is being manipulated.
D. Google has removed all rules regarding spam from its search results.
問2: リリー・レイ氏によると、AIによってオンライン検索はどのように変わりましたか。
Correct answer: B
正解選択肢: AIは、複数の便利なウェブサイトのリンクの代わりに、ユーザーに1つの単一の回答を提供する。
該当文: Before, Google would give you 10 blue links and you would kind of do your own research. But AI just gives you one answer.
Q3: What action did Google take regarding its spam policies?
A. It changed its core approach to search results entirely last week.
B. It allowed unscrupulous companies to promote their private websites completely freely.
C. It officially confirmed that attempts to manipulate AI responses are against rules.
D. It stopped removing websites that break rules from its search results entirely.
問3: Googleはスパムポリシーに関してどのような行動をとりましたか。
Correct answer: C
正解選択肢: AIの回答を操作しようとする試みがルール違反であることを公式に確認した。
該当文: Google updated its spam policies to officially confirm that attempts to manipulate AI responses are against rules.
💬Today’s your thoughts
Question
Do you think AI chatbots are reliable sources of information?
AIチャットボットは信頼できる情報源だと思いますか。
Model Answer – 1（肯定的立場）
| English | Japanese |
| I believe that AI chatbots are reliable sources of information for everyday learning. | 私は、AIチャットボットは日々の学習のための信頼できる情報源であると信じています。 |
| Firstly, they provide direct answers to complex questions. This is helpful because users do not need to click multiple links. For example, when I search for scientific facts, AI summarizes them clearly. This shows that AI makes learning efficient. | 第一に、それらは複雑な質問に対して直接的な答えを提供します。ユーザーが複数のリンクをクリックする必要がないため、これは役立ちます。例えば、私が科学的な事実を検索するとき、AIはそれらを明確に要約してくれます。これは、AIが学習を効率的にすることを示しています。 |
| Moreover, AI companies constantly update their policies to prevent misinformation. This ensures that systems become safer over time. For instance, major search engines now remove rule-breaking websites. As a result, the reliability of AI answers will improve. | さらに、AI企業は誤情報を防ぐために常にポリシーを更新しています。これにより、システムは時間の経過とともに確実に安全になります。例えば、主要な検索エンジンは現在、ルールに違反しているウェブサイトを削除しています。結果として、AIの回答の信頼性は向上するでしょう。 |
| In conclusion, I think AI chatbots are trustworthy because they offer fast, regulated information, which helps people study and work much better. | 結論として、AIチャットボットは迅速で規制された情報を提供し、人々がより良く勉強したり仕事をしたリするのを助けるため、信頼できると思います。 |
| [Word Count: 112 words] |
Model Answer – 2（否定的立場）
| English | Japanese |
| I do not believe that AI chatbots are reliable sources of information today. | 私は、今日のAIチャットボットが信頼できる情報源であるとは思いません。 |
| To begin with, AI chatbots are easily manipulated by dishonest companies. This happens because systems rely on online content that may be biased. For instance, a journalist tricked AI into spreading a false story. This shows AI can give incorrect information. | まず第一に、AIチャットボットは不誠実な企業によって簡単に操作されてしまいます。これは、システムが偏っている可能性のあるオンラインコンテンツに依存しているために起こります。例えば、あるジャーナリストがAIを騙して虚偽のストーリーを拡散させました。これは、AIが不正確な情報を与える可能性があることを示しています。 |
| In addition, AI tools usually provide only one answer instead of multiple sources. This is dangerous because users cannot compare different viewpoints easily. For example, people might accept a wrong answer without checking. Consequently, relying on AI may lead to misunderstandings. | 加えて、AIツールは通常、複数の情報源の代わりに1つの答えしか提供しません。ユーザーが異なる視点を簡単に比較できないため、これは危険です。例えば、人々は確認することなく誤った答えを受け入れてしまうかもしれません。結果として、AIに依存することは誤解を招く可能性があります。 |
| In conclusion, AI chatbots are not reliable because they can spread manipulated facts and limit users’ research, so we must always check other sources. | 結論として、AIチャットボットは操作された事実を拡散し、ユーザーの調査を制限する可能性があるため信頼できず、私たちは常に他の情報源を確認しなければなりません。 |
| [Word Count: 115 words] |
News Source: BBC News
https://www.bbc.com/future/article/20260519-google-tackles-attempts-to-hack-its-ai-results