Collaborative Immune System 協作式免疫系統 協働する免疫システム

As many of you know, I advocate for Open Government—drafting laws not behind closed doors, but starting with "broad listening" (as Mr. Suzuki will detail shortly).

In March 2024, the Ministry of Digital Affairs (moda) convened an "Alignment Assembly" of 447 citizens, statistically representative of Taiwan's demographics. We asked them to brainstorm on the very difficult issue of platform responsibility.

After a day of deliberation via video, they delivered a result—a mandate that no lobbyist could dispute:

• 89% supported requiring platforms to detect and label AI-generated content.
• 85% supported platform joint liability—if a platform fails to remove a scam ad, causing someone to believe it, the platform should be jointly liable for damages.
• Regarding enforcement: Citizens agreed that if a foreign platform persistently refuses to comply, we should slow down their connection speed—traffic throttling.

This consensus became the foundation of our legislation. When the law passed last year, there was no public backlash, because the public had written the rules themselves.

如各位所知，我長年倡議「開放政府」：法律不必關起門來起草，而是從「廣泛傾聽」開始——稍後鈴木健先生會再深入說明。

2024 年 3 月，數位發展部（moda）召開「對齊大會」，邀集 447 位公民；他們在統計上，正是臺灣人口結構的縮影。我們請大家針對「平台責任」這道難題，一同集思廣益。

經過一整天的視訊審議，大家交出了結果——這份民意付託，任何遊說團體都無從反駁：

• 89% 支持要求平台偵測並標示 AI 生成內容。
• 85% 支持平台負連帶責任——詐騙廣告不下架，害人誤信受騙，平台就該對損害連帶賠償。
• 執行面上：公民也同意，境外平台若一再拒不配合，就降低它的連線速度——也就是「流量管制」。

這份共識，成了立法的地基。去年法律通過時，社會沒有反彈——因為規則本來就是大家親手寫成的。

ご存知の方も多いと思いますが、私は「オープンガバメント」を提唱しています。法律を密室で起草するのではなく、まずは「広く耳を傾ける」ことから始めるのです（これについては後ほど鈴木さんが詳しく触れられます）。

2024年3月、デジタル発展部（moda）は、台湾の人口構成を統計的に代表する447人の市民による「アライメント大会（対齊大會）」を招集しました。私たちはプラットフォームの責任という非常に難しい問題について、皆で知恵を出し合いました。

1日のビデオ熟議を経て、彼らはある結果を出しました。それは、どんなロビイストも覆せない「民意の負託」でした。

• 89% が、プラットフォームにAI生成コンテンツの検知と表示を求めることを支持。
• 85% が、プラットフォームの連帯責任を支持。もしプラットフォームが詐欺広告を削除せず、誰かがそれを信じてしまった場合、プラットフォームは損害に対して連帯して賠償責任を負うべきだというものです。
• 執行に関して：市民は「もし海外プラットフォームが法令遵守を拒み続けるなら、接続速度を落とすべきだ」と合意しました。すなわち「通信帯域制御（トラフィック・スロットリング）」です。

このコンセンサスが、私たちの立法の土台になりました。昨年法律が成立したとき、市民からの反発が起きなかったのは、そのルールが大衆によって共同で書かれたものだったからです。

Armed with this legitimacy, we proposed the draft in May 2024, and our Legislature passed the four new anti-fraud laws in July. The centerpiece is the Fraud Crime Hazard Prevention Act.

Today, I will focus on Chapter 3: Articles 27 through 42, which specifically regulate Internet Advertising Platforms. Note that this applies to advertising platforms, not general speech platforms.

We transformed the moral expectations of the people into four lines of legal defense.

帶著這份正當性，我們在 2024 年 5 月提出草案；同年 7 月，立法院通過「打詐新四法」，核心正是《詐欺犯罪危害防制條例》。

今天聚焦其中的第三章，也就是第 27 條到第 42 條：專門規範「網路廣告平台」的部分。請留意——對象是廣告平台，不是一般的言論平台。

我們把人民的道德期待，鍛造成四道法律防線。

この正統性を背景に、私たちは2024年5月に草案を提出し、立法院は7月に「詐欺対策新4法」を可決しました。その中核となるのが『詐欺犯罪危害防制條例』（Fraud Crime Hazard Prevention Act）です。

本日は、その第3章、第27条から第42条、すなわち「インターネット広告プラットフォーム」を具体的に規制する部分に焦点を当てます。一般的な言論プラットフォームではなく、広告プラットフォームだけが対象である点にご注意ください。

私たちは人々の道徳的な期待を、4本の法的防衛線に変えました。

1. Verification at Source (Article 30)

The first line of defense is changing the "default setting." Under Article 30, platforms must implement KYA (Know Your Advertiser)—like KYC in finance, but for advertisers.

Before any ad can run—not just investment ads, but any ad—the platform must verify the advertiser's identity using digital signatures, biometrics, or equivalent technology. If the platform cannot verify the identity, they cannot take the advertiser's money. It is that simple.

2. Radical Transparency (Article 31)

The second line of defense is opening the black box. Once identity is verified, all ads must be clearly labeled for all viewers, disclosing:

• The name of the advertiser / commissioner (who ordered the ad).
• The funder (who paid for it).
• If deepfake technology or AI generation was used to portray a person, it must be explicitly disclosed.

We are stripping away the anonymity that scam syndicates rely on.

3. Notice & Takedown (Article 32)

The third line of defense is active action. Article 32 mandates a "Notice and Takedown" mechanism. If a platform knows or is notified of scam content, they must remove it within 24 hours.

But a rule without a consequence is just a suggestion. So, Article 32 includes a powerful lever: Joint Liability. If a platform fails to remove a scam ad after notification, and a citizen suffers financial loss, the platform is jointly liable for damages alongside the scammer. This shifted the platforms’ ROI calculation overnight. Compliance became cheaper than negligence.

Conversely, under Article 38, we offer a Safe Harbor. If a platform acts in good faith to remove content based on our laws but makes a mistake, they are exempted from liability for damages to the user. We punish non-compliance, but explicitly protect cooperation.

Again, this applies only to advertising—paid pushed content. This is about Reach, not Freedom of Speech.

4. Last Line of Defense: Enforcement (Article 39)

What if a global giant refuses to comply? Article 29 requires platforms to appoint a Legal Representative in Taiwan. No more excuses like "we have no local office."

If they still refuse to comply, Article 39 authorizes our expert commission to deploy the citizen-mandated penalties:

1. Heavy Fines: Up to NT$100 million (approx. 460 million yen) per violation.
2. Traffic Throttling: We can order ISPs to slow down access to the platform. This degrades the user experience, making the platform commercially unviable for advertising, while freedom of speech remains protected.
3. Blocking: If they persist in non-correction, we can ultimately stop resolving the platform's domain (DNS blocking).

一、源頭驗證（第 30 條）

第一道防線，是改變「預設值」。依第 30 條，平台必須落實 KYA（Know Your Advertiser，認識你的廣告主）——如同金融業的 KYC，只是對象換成了廣告主。

任何廣告要上架之前——不限投資廣告，而是任何廣告——平台都必須以數位簽章、生物辨識或同等技術，驗證廣告主的身分。驗不了身分，就收不了錢。就這麼簡單。

二、徹底透明（第 31 條）

第二道防線，是打開黑盒子。身分一經驗證，每則廣告都必須向所有觀看者清楚標示：

• 委託刊播者是誰——這則廣告由誰發起。
• 出資者是誰——錢從哪裡來。
• 若以深偽或 AI 生成技術描繪任何人，必須明白揭露。

詐騙集團賴以藏身的匿名面紗，就這樣一層層剝下。

三、通知即下架（第 32 條）

第三道防線，是主動出擊。第 32 條明定「通知即下架」：平台知悉或接獲通報有詐騙內容，必須在 24 小時內下架。

但沒有後果的規則，只是建議。所以第 32 條裝上了一根強力槓桿：連帶賠償責任。平台接獲通知仍不下架，害公民蒙受財損，就必須和詐騙者一起賠。平台的投資報酬率（ROI）一夜之間翻轉——守法，從此比怠惰便宜。

反過來，第 38 條也備妥避風港條款：平台依法、出於善意下架內容，即使誤判，也免除對使用者的損害賠償責任。不配合的，我們課責；願意合作的，我們明文保護。

再次強調：這一切只適用於廣告，也就是付費推播的內容。管的是觸及（Reach），不是言論自由（Freedom of Speech）。

四、最後防線：執行（第 39 條）

萬一全球巨頭就是不配合呢？第 29 條要求平台在臺灣指定法律代理人——「我們沒有在地辦公室」這種藉口，從此失效。

若仍拒不改正，第 39 條授權專家審議委員會，動用公民授權的處分：

1. 高額罰鍰：每次違規最高新臺幣 1 億元（約 4.6 億日圓）。
2. 流量管制：命令網際網路服務供應商（ISP）調降平台的連線速度。使用體驗一差，廣告生意就做不下去——但言論自由分毫無損。
3. 限制接取：若持續不改正，最終可停止解析平台的網域（DNS 阻斷）。

1. 入口での検証（第30条）

第一の防衛線は、「初期設定（デフォルト）」を変えることです。第30条により、プラットフォームは KYA（Know Your Advertiser：広告主確認） を実装しなければなりません。金融業界のKYCのようなものですが、これは広告主向けです。

投資広告に限らず、あらゆる広告が配信される前に、プラットフォームはデジタル署名や生体認証、あるいは同等の技術を用いて広告主の身元を確認する必要があります。身元確認ができないなら、広告主からお金を受け取れません。シンプルです。

2. 徹底した透明性（第31条）

第二の防衛線は、ブラックボックスを開くことです。身元が確認されたら、すべての広告は視聴者に対して明確にラベル付けされ、以下を開示しなければなりません：

• 委託者（誰が広告を依頼したか）の氏名
• 出資者（誰がお金を払ったか）
• もし人物を描写するためにディープフェイク技術やAI生成が使用された場合は、その旨を明示的に開示する

私たちは、詐欺グループが頼りにしている「匿名性」というベールを剥ぎ取るのです。

3. 通知・削除メカニズム（第32条）

第三の防衛線は、最も能動的な行動です。第32条は「通知・削除（Notice and Takedown）」メカニズムを義務付けています。プラットフォームが詐欺コンテンツを「知った」または「通知された」場合、24時間以内に削除しなければなりません。

しかし、結果の伴わないルールは、単なる「提案」に過ぎません。そこで第32条には、強力なレバーが組み込まれています。連帯損害賠償責任です。通知後もプラットフォームが詐欺広告を削除せず、市民が金銭的損害を被った場合、プラットフォームは詐欺師と並んで連帯して損害賠償責任を負います。これにより、プラットフォームのROI（投資対効果）の計算は一夜にして変わりました。無視するよりも、遵守する方が安上がりになったのです。

一方で、第38条はセーフハーバー（Safe Harbor）を用意しています。法に基づき誠実に削除対応を行ったが、もし間違いがあった場合、プラットフォームはユーザーに対する損害賠償責任を免除されます。私たちは不履行を罰しますが、協力は明確に保護します。

繰り返しますが、これは広告（有料でプッシュされるコンテンツ）にのみ適用されます。これは「到達（Reach）」に関するものであり、「言論の自由（Freedom of Speech）」に関するものではありません。

4. 最後の防衛線：執行（第39条）

もし巨大グローバル企業が遵守を拒む場合、どうなるのか。第29条は、プラットフォームに台湾国内の法律代表者（Legal Representative）を置くことを求めています。「現地拠点がない」という言い訳はもう通用しません。

それでも遵守を拒むなら、第39条により、専門家委員会が市民の負託に基づくペナルティを発動できます：

1. 高額な罰金：違反ごとに最大 1億台湾ドル（約4億6000万円）。
2. トラフィック管理（帯域制御）：ISPに命じて、当該プラットフォームへのアクセス速度を低下させることができます。これによりユーザー体験を劣化させ、広告ビジネスとして成立しにくい状態にしますが、言論の自由は保護されたままです。
3. 接続遮断：是正されない状態が続く場合、最終的にはプラットフォームのドメイン解決を停止（DNSブロッキング）できます。

In practice, this is an automated process connecting citizens, government agencies, and platforms.

Citizens are active participants. When they spot a scam ad, they report it to our "Fraud Buster" database query network.

We train AI models to detect common patterns. When citizens flag a new type of scam and it is confirmed, the AI model takes over auto-detection.

Reports flow automatically to relevant ministries: investment scams to the Financial Supervisory Commission (FSC), medical scams to the Ministry of Health and Welfare (MOHW), and so on. If someone is being impersonated, the network directly contacts them: "Did you authorize this ad?" People building their personal brands shouldn't have their legitimate content mistakenly taken down. Once the authority confirms it is indeed a scam, it is sent to the platform, starting the 24-hour countdown to takedown.

實務上怎麼運作？這是一條自動化的流程，把公民、政府與平台串連起來。

公民不是被動的受害者，而是主動的參與者：在平台上看到疑似詐騙的廣告，隨手就能到「網詐通報查詢網」（Fraud Buster）通報。

我們同時訓練 AI 模型辨認常見的詐騙模式。公民標記出新手法、一經確認，AI 就接手自動偵測。

通報會自動分流到相關部會：投資詐騙送金管會，醫藥詐騙送衛福部，依此類推。若有人遭到冒名，系統會直接寄信問本人：「這則廣告是您授權的嗎？」畢竟也有人正在經營個人品牌，正當的內容不該被誤下架。等主管機關確認確屬詐騙，通知便送達平台——24 小時的倒數，隨即開始。

現場ではどう機能するのか。これは市民、政府、プラットフォームを結ぶ、自動化されたプロセスです。

市民は、受動的な被害者ではなく、能動的な参加者です。市民は、プラットフォーム上で詐欺広告を見つけたら、「詐欺通報照会ネット（Fraud Buster）」で通報できます。

また、私たちはAIモデルを訓練して一般的なパターンを検知させています。市民が新しいタイプの詐欺をフラグ付けし、それが詐欺だと確認されれば、AIが引き継いで自動検知を行います。

これらの通報は、ネットワークを通じて各担当省庁に流れます：投資詐欺は金融監督管理委員会（金管会）へ、医療詐欺は衛生福利部（衛福部）へ、といった具合です。時には、誰かがなりすまされている場合、ネットワークはその本人に直接メールを送ります。「この画像を許可しましたか？」と。人々は自分のパーソナルブランドを構築していることもあるため、誤って削除したくないからです。所管官庁が「これは確かに詐欺だ」と確認すると、プラットフォームに送信されます。そこから時計が動き出し、プラットフォームは24時間以内に削除しなければなりません。

Does this system work? The numbers speak for themselves. According to reports from the Ministry of Digital Affairs:

• Impersonation scam ads of public figures decreased by over 95%.
• Investment scam ads decreased by nearly 90%.

Our active AI scanning shows what this means in daily life: public figure impersonation ads went from over 30,000 per week in May 2024 to under 1,000 per week after the law took effect. They are now rarely seen. In terms of public safety outcomes, comparing November 2025 with November 2024, the number of accepted fraud cases decreased by 25%, and financial losses reported by citizens decreased by over 50%. This refers to all cases—not just investment or advertising fraud.

Major platforms like Meta have turned from adversaries ignoring us into allies, integrating their systems with our notification network. The antibody against this scam virus is collective vigilance. When citizens report, the system responds, and the defense scales.

From August 2024 to November 2025, a total of 112,054 suspected scam ads on Meta were flagged (by AI or human) and taken down through our cooperative channel. The fake investment ads that flooded Facebook last March are now hard to find.

這套系統真的有效嗎？數字會說話。根據數位發展部的報告：

• 冒用名人的詐騙廣告，減少超過 95%。
• 投資詐騙廣告，減少將近 90%。

AI 主動掃描的結果，說明了這對日常生活的意義：冒用名人的詐騙廣告，從 2024 年 5 月的每週三萬多則，在法律生效後跌到每週不足一千則，如今已難得一見。治安成果同樣明顯：以 2025 年 11 月對照前一年同月，詐欺案件受理數減少 25%，民眾通報的財產損失更減少五成以上——而且這是所有案件的統計，不限投資詐騙或廣告詐騙。

Meta 等大型平台，也從當初相應不理的對手，變成把系統直接介接通報網的盟友。對抗詐騙病毒的抗體，是集體的警覺：公民一通報，系統就回應，防線隨之擴大。

2024 年 8 月到 2025 年 11 月間，Meta 上共有 112,054 則疑似詐騙廣告，經 AI 或人工標記後，透過合作管道下架。去年三月還淹沒 Facebook 的假投資廣告，如今幾乎無跡可尋。

このシステムは機能しているのでしょうか？ 数字が物語っています。デジタル発展部の報告によれば：

• 著名人なりすまし詐欺広告は 95%以上 減少。
• 投資詐欺広告は 90%近く 減少。

私たちのAIによる能動的スキャンは、これが日常生活において何を意味するかを示しています。2024年5月には 週3万件以上 あった著名人なりすまし詐欺広告は、法律の施行後、週1,000件未満 へと激減しました。今ではめったに見かけません。治安上の成果として、2025年11月と2024年11月を比較すると、受理された詐欺件数は 25% 減少、市民から報告された金銭的被害額は 50%以上 減少しました。これは投資詐欺や広告詐欺に限らず、すべての詐欺案件を含んだ数字です。

Metaのような主要プラットフォームは、対立相手から盟友へと変わり、自社のシステムを私たちの通報ネットワークと統合しています。このウイルスに対する抗体は、集団的な見守りです。市民が通報すれば、システムは応答し、防御を大規模に拡大できるようになりました。

2024年8月から2025年11月までに、Meta上の詐欺疑い広告、合計 112,054件 が（AIまたは人間によって）フラグ付けされ、私たちの協力チャネルを通じて削除されました。かつてFacebookを埋め尽くしていた偽の投資広告は、今では探すのが難しいほどです。

According to V-Dem, Taiwan has been the number one target of foreign disinformation attacks for the past 12 years. Usually, other countries have to pay for penetration tests—we get ours for free.

Why can attackers endlessly supply this "service"? Because most attacks today are AI-assisted, consuming minimal human resources. In the past, bot-generated scams looked fake. But since last year, they pass the so-called Turing Test—people cannot tell the difference between machine-generated and human-generated content.

It is impossible to defeat the attackers’ AI with human defenders; we must fight AI with AI (以AI治AI).

In the future, humans will still train the AI defenders, but the actual defense will be conducted by AI systems.

I currently serve on the board of ROOST (Robust Open Online Safety Tools). We work with OpenAI, Discord, Bluesky, etc., to provide the gpt-oss-safeguard model, which can cite its sources: "We acted on this because it violates this rule."

This AI model is:

• Deliberative: It thinks about the rules.
• Open: You can fine-tune it based on local culture.
• Steerable: People can co-write the rules—it is just a text file; you don't need a GPU to retrain it.

You just change the rules, and the AI automatically enforces them.

根據 V-Dem 的統計，臺灣連續 12 年是全球境外假訊息攻擊的頭號目標。別的國家做滲透測試要付費——我們的是免費奉送。

攻擊者為什麼能把這種「服務」供應得源源不絕？因為如今的攻擊多半有 AI 協力，幾乎不耗人力。過去，機器人生成的詐騙一眼就能看穿；但從去年起，它們已經通過所謂的圖靈測試——人們再也分不出內容出自機器還是真人。

靠人類防禦者，不可能勝過攻擊方的 AI；唯有以 AI 治 AI。

未來，人類仍會負責訓練防禦方的 AI，但真正站上第一線的，將是 AI 系統。

我目前擔任 ROOST（Robust Open Online Safety Tools）的理事。我們與 OpenAI、Discord、Bluesky 等夥伴合作，提供 gpt-oss-safeguard 模型；它的每個處置，都能引述依據：「我們採取行動，因為這則內容違反了這條規則。」

這個 AI 模型有三個特點：

• 審議（Deliberative）：它會思考規則本身。
• 開放（Open）：可以依在地文化微調。
• 可駕馭（Steerable）：規則由大家共同撰寫——它只是一個文字檔，不必動用 GPU 重新訓練。

規則一改，AI 隨即依新規則執行。

V-Dem（民主主義多様性研究所）によると、台湾は過去12年間、外国からの情報操作攻撃の世界最大の標的とされています。通常、他国はペネトレーションテスト（侵入テスト）にお金を払う必要がありますが、私たちは無料でそれを受けているようなものです。

なぜ攻撃者はこの「サービス」を延々と提供できるのでしょうか？ それは、現在の攻撃のほとんどがAI支援によるものであり、人的リソースをほとんど消費しないからです。以前は、ボットが生成した詐欺は偽物だとすぐにわかりました。しかし昨年から、それらはいわゆる「チューリングテスト」に合格しており、人間は機械生成コンテンツと人間生成コンテンツを見分けることができません。

人間の防御者が攻撃者のAIに勝つことは不可能です。AIをもってAIを制する（以AI治AI）必要があります。

防御の自動化に向けた未来の人間は、防御AIのトレーナーとしての役割を担いますが、実際の防御はAIシステムによって行われます。

私は現在、ROOST（Robust Open Online Safety Tools）の理事を務めています。この組織はOpenAI、Discord、Blueskyなどと協力し、引用元を提示できる gpt-oss-safeguard モデルを提供しています。「これがこの特定のルールに違反しているため、対処しました」と説明できるのです。

このAIモデルは：

• 熟議的（Deliberative）：ルールについて思考します。
• 開放的（Open）：地域の文化に基づいて微調整（ファインチューニング）できます。
• 操舵可能（Steerable）：人々がルールを共同で記述できます。それは単なるテキストファイルであり、再トレーニングのためにGPUを必要としません。

ルールを変更すれば、AIが自動的にそのルールを実行します。