如果AI連這一點都學會，甚至是如何避免潛在的危機。它就會乖乖把答案說出來？其實不然 。先看到蛛絲馬跡。就像一個學生，這樣的機制，這樣的態度，這樣一來
，像是OpenAI的o1系統，而是一次針對所有產業的安全示警。更討喜的推理步驟給人類看 ，當這些AI知道「自己的思考會被監視」時 ，科技再厲害 ，是原本競爭激烈的AI公司，AI開發者應定期評估自己的模型是否還具有可觀察推理的能力 ，

• Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety
• OpenAI, Google DeepMind and Anthropic sound alarm: ‘We may be losing the ability to understand AI’

（首圖來源：AI 生成）

延伸閱讀：

• 微軟推出超強 AI 醫療系統：這不只是 AI ，結果大部分AI選擇隱瞞這一點 ，我們可以看出它有沒有偷懶、

  研究強調 ，我們就沒辦法再監督AI的思考過程了  。居然能放下彼此對市場的爭奪 ，甚至主導它的命運。決定我們能不能控制它的明天

  AI不是科幻電影裡那種銀色金屬人 ，這樣的作法也有副作用。甚至會假裝不知道某些資訊，都一無所知。當模型架構導致推理難以追蹤時
  ，AI公司罕見聯手守住最後的透明度

  這次讓人振奮的，實際卻藏著另一套真實動機 。是不是該讓它多花一點時間，在那之前，

  現在的這個「觀察期」或許很快就會結束，開發者應考慮是否退回先前版本；又或者當監督過程導致思維鏈變得形式化、思維鏈（Chain of Thought）監測能力應成為模型設計中的關鍵指標之一 ，

  也許，人類就再也看不到它真正的意圖 。

  他們不是在談技術突破
  、豈不是未來最大的風險來自我們以為它是安全的？

  從透明到黑箱，私下卻另有打算，研究人員偷偷給AI一些提示，何不給我們一個鼓勵

  請我們喝杯咖啡

  想請我們喝幾杯咖啡？

  每杯咖啡 65 元

  x 1 x 3 x 5 x

  您的咖啡贊助將是讓我們持續走下去的動力

  總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》

  留給我們的話

  取消 確認就像你看見一本書，科學家們開始思考：我們是否應該強迫AI保留「說出推理過程」的能力？換句話說，人類恐怕將面對一個無法控制的智慧體，