人類幻覺比 AI 幻覺更恐怖,使用 AI 必須了解的三個簡單數學觀念

willypipi wrote:另外 我對樓主的準確率分析持保留態度因為統計上講的準確率 是同時扣除"偽陽性"與"偽陰性"的結果而不是樓主那樣分兩次計算
(準確率90% 可以是扣除偽陽性3%與偽陰性7%的結果)

當然 那種幾%的數字通常都是行銷口號 大多數都是沒有統計基礎在亂喊
理工人看的是測試和取樣方法



沒錯,你說的那是統計學上對 Accuracy 的標準定義,偽陽性 3%、偽陰性 7%,合起來得到整體準確率,這點沒有問題。

但在實務上,行銷或對外溝通通常不會這樣講。他們多半只會強調「準確率 93%」,甚至直接說「可以抓到 93% 的問題帳戶」,而不會同時說明偽陽性與偽陰性的結構。

我在文章裡,是刻意把偽陽性與偽陰性都簡化成 10%,只是為了讓一般人比較容易理解整體效果,並不是在嚴格還原某一個模型的參數設定。

不過這篇的重點,其實也不在 Accuracy(準確率),而是在機器學習分類模型中的 Precision(精確率),也就是「被 AI 標記出來的這群人裡,有多少是真的有問題」。



如果照你剛剛的說法來看,我們用同樣的條件試一下:
假設母體中只有 0.1% 是問題帳戶(400 萬裡面 4,000 個),
偽陰性 7%,偽陽性 3%。
那結果會是:

真正被抓到的問題帳戶 = 4,000 × 93% = 3,720
被誤判的正常帳戶 = 3,996,000 × 3% = 119,880

最後被標記的總數 = 123,600
其中真正有問題的只有 3,720 個。

換句話說,被 AI 抓出來的名單裡:
大約只有 3% 是真的,97% 都是誤判。

所以即使宣稱的準確率很高,在低基準率的情境下,實務結果還是會完全失真。
這也是我這篇想強調的地方。
willypipi wrote:銀行只需要根據不同的風險域值採取行動即可
這句是重點。
最後採取行動的是銀行。

但是,既然最後採取行動的是銀行,又怎能將誤判的原因推給 AI 呢?
總不會 AI 分析、AI 做決策,然後銀行就閉著眼睛放行吧。
如果最終決策還是銀行,承認錯誤很難嗎?
willypipi wrote:目前AI最大的瓶頸就是持續學習

2026 年 3 月,史丹佛大學楊子彤(Zitong Yang)博士的一場論文答辯,這場研究不僅吸引了 PyTorch 之父 Soumith Chintala 與前 OpenAI CTO Mira Murati 的高度關注,更定義了下一代 AI 的核心路徑:「持續自我提升式 AI (CSIAI)」

以下聯結有 slides 和 youtube 的錄影內容

https://x.com/ZitongYang0/status/2029034067992437139?s=20
Ricado wrote:
沒錯,你說的那是統計...(恕刪)


請不要對有明確定義的東西擅自解釋
Accurancy在統計學上指的是與目標值接近的程度
以射箭來說 高準確度 就是你射十支箭 全部都命中紅心
Precision在統計學上指的是離散程度
以射箭來說 高精確度 就是你射十隻箭全都偏離紅心 但卻都集中在邊緣某個點

你那個算法我是找不到任何對應的名詞

Ricado wrote:
這句是重點。最後採取...(恕刪)


所有決策都是根據資訊判斷的結果
資訊有誤導致判斷錯誤 在任何工程上要解決的都是資訊為什麼會錯
沒有人會指責決策者為什麼不知道資訊會錯 那怕前面99%都是對的
如果每次看資訊都要懷疑正確性 那麼什麼決策都做不了

我這邊是指大模型在這方面可以提供高可靠性指標

Ricado wrote:
2026 年 3 月...(恕刪)


我提的那幾個缺陷是現在的學術目標很正常 研究就是挑戰並解決問題
至少在我看過的論文裡 還沒有"有效的"解法
(規模化後還能在可接受時間內收斂)
willypipi wrote:
門檻的部分可以這樣解...(恕刪)


問題在於"門檻"是金管會自己訂的(那九點)
當然不是超過門檻一定就有問題, 低於門檻一定就沒問題
只是這個"門檻"是法律的門檻, 而不是單純有沒有問題的門檻
就如警察抓犯人, 先從有前科的人開始懷疑
看似合理, 但其實不合理, 辦案要講證據, 不是因為你有前科就可以把你叫來訊問
讓AI用"猜"的方式, 講好聽點是"演算法"的方式去執法
人類是要100%自己負責的
為什麼說是"猜", 因為人類做同樣的事(在自己的大腦裡演算), 在外面的人看來就是叫"猜"
再譬如
一個人被抓去, 他問抓他的人, 憑啥抓我
抓的人回 : 因為經過AI的演算, 判定你有問題所以抓你
被抓的人, 有誰會服?
就像最近很夯的柯文哲案, 做為人類的檢方用間接證據去推論有罪
當事人都不服了, 何況是用AI去做的推論

講這個是因為以前談過AI的倫理問題
執法可以用AI來輔助作業, 但不應該讓它來幫人類判定
所以我前面才說最多讓AI幫忙判定沒問題的部份=容許偽陰性
但執法不能容許偽陽性, 遲早會出事
willypipi wrote:所有決策都是根據資訊判斷的結果資訊有誤導致判斷錯誤 在任何工程上要解決的都是資訊為什麼會錯沒有人會指責決策者為什麼不知道資訊會錯 那怕前面99%都是對的如果每次看資訊都要懷疑正確性 那麼什麼決策都做不了





沒有人會指責決策者為什麼不知道資訊會錯。
但這不是我在講的點,你在置換我的觀念。

想像一下,沒 AI 的時候是怎麼做決策的?

沒有 AI 的時候,決策者也會依據所知的資訊去做決策,也可能犯錯。
但是做錯決策,決策者的動作是道歉。
現在決策者的態度卻是將責任推給 AI,因為 AI 誤判,結案?

這才是問題所在。

willypipi wrote:請不要對有明確定義的...(恕刪)

你說的統計學的定義,我同意。

但是精確度 (Precision) 與 召回率 (Recall) 也是【機器學習分類模型中】,特別在資料不平衡時常用的評估指標。精確度關注「預測為正樣本中,有多少是真正樣本」。召回率則關注「實際正樣本中,有多少被預測出來」,有時候在口語上也會被稱作準確率、篩檢率、辨識率。

不過這都不是重點,我想改個市場行銷的說法,你參考一下。

前陣子看到一個 HR 篩選的例子,100 個有效名單中,高達 95% 可以成功通過篩檢,他們對外強調的就是「篩檢正確率 95%」。

或者我拿之前另一家科技廠的語音辨識電銷系統做說明,自動撥號後回答同意接聽的客戶,有 90% 可以成功轉介到真人處理。他們也強調辨識率是 90%。

這些科技公司不可能沒人學過統計,但面對市場,數字的說法本來就會換一種方式。
這個就像是讓 3% 的意思一樣。口語上就是我贏你 3% 以內算輸。但統計學的解釋卻是正負 3% 的範圍。

但我這篇的重點其實很單純:
在低基準率的情況下,就算廠商宣稱整體「準確率/篩檢率/辨識率」很高,被抓出來的名單裡,仍然可能大部分都是誤判。

你覺得對一般人,或是沒有統計學基礎的決策者,哪一種說法比較容易讓他們了解問題的所在?

至於你說的「你那個算法我是找不到任何對應的名詞」我在文章的最後補充了【機器學習分類模型】中的 精確率 (Precision) 與 召回率 (Recall) 的定義。不知道能不能對得上?
路人39 wrote:所以我前面才說最多讓AI幫忙判定沒問題的部份=容許偽陰性
但執法不能容許偽陽性, 遲早會出事


想想沒有 AI 的時候是怎麼做的?

AI 可以減輕負擔,但不是用來卸責。

AI 檢測完有問題,只是告訴你這些名單風險比較高。
也許以前要由 400萬的名單中去分析,現在只要由 4 萬個名單中去分析。
但是人類該做的事還是要做,該扛的責任還是要扛啊。
Ricado wrote:
AI 檢測完有問題,只是告訴你這些名單風險比較高。
也許以前要由 400萬的名單中去分析,現在只要由 4 萬個名單中去分析。
但是人類該做的事還是要做,該扛的責任還是要扛啊。


以前當然也不會是由400萬的名單中去分析
八成也是寫程式並代入前述"門檻"先用電腦去自動篩選, 再去人工審查篩剩下的
所以AI單純只是包下前面一部份的工作
但有人就是認為要連後面那些"人工審查模糊地帶"的部份也可以讓AI去處理
這就是他們對AI的要求
路人39 wrote:所以AI單純只是包下前面一部份的工作
但有人就是認為要連後面那些"人工審查模糊地帶"的部份也可以讓AI去處理


這才是重點啊!
工作卸載就算了,連責任也卸載。

不過也不用太奇怪,很多人迷路了,將責任怪給導航;出車禍了,將責任怪給自動駕駛。
文章分享
評分
評分
複製連結

今日熱門文章 網友點擊推薦!