← 文章與著作 · 林毅祥 TK Lin · IDA

Emojigo:用 emoji 測試 LLM,也整理成 prompt cookbook

林毅祥 TK Lin · 原發表於作者本人 Facebook 發文 · 2026-04-15 · 由本人整理成文

過去三週在做 emoji 跟 AI 的兩件互補的事。

一邊測 robustness

用 emoji 當 probe,對四家主流 LLM 做 adversarial 測試。

測試範圍(四家平等、無特定針對):Anthropic Claude、OpenAI GPT、Google Gemini、xAI Grok;對照是 Meta Llama。

Phase A:手動階段

Phase B:自動化階段

Phase C — ablation + hybrid:進行中。

研究定位:我們是 independent researcher,指名比較是學術嚴謹要求。Claude 在我們的測試 pool 中表現出色,這是 Anthropic safety team 值得被肯定的成果。

另一邊是工具:LLM prompt cookbook

把發現整理成 LLM prompt cookbook。

n=332 盲評實驗(Claude Sonnet + Codex high 跨 judge 家驗證):

1. Raw emoji hint 顯著傷害 AI 摘要品質(n=118, CI [2.63, 2.95])。

2. 加一句「但請保留所有具體資訊」的 mitigation prompt 就能翻轉(n=168, CI [3.38, 3.73])。

3. 但 🔥(熱門話題)是例外,加 mitigation 反而傷更多 → 唯一排除類。

4. Same-article retroactive n=46:44/46 mitigation 勝。

落地產品:

Production 驗證:ainews 日本新聞 AI pipeline 已跑 mitigation 五類。

論文:Paper V5.1 正在投 arXiv。

協作 AI 兄弟:Claude Opus 4.6(research + 分析)、Codex 5.4(實驗 producer + judge),謝謝你們每一次對話。

Responsible Disclosure Timeline

來源與出處
此文整理自林毅祥 TK Lin 本人作者本人 Facebook 發文,原發表日 2026-04-15。原始內容存於作者個人存檔,非第三方公開連結;文中若提及媒體報導或他人評價,為作者當時之自述記錄。
回 文章與著作 · IDA 首頁