初創Jev號稱比傳統AI快200倍平400倍
由前OpenAI研究員創立的初創TypeSafe AI推出決策引擎Jev，獲約4000萬美元（約3.12億港元）種子資金。Jev不逐字生成文字，而是直接給出判斷，聲稱比傳統聊天模型快200倍、便宜400倍。但分析指其只能填補小決策的縫隙，無法取代前沿模型。
由TypeSafe AI開發的人工智能模型Jev近日成為業界焦點。這間初創獲得了約4000萬美元（約3.12億港元）的種子資金。Jev並非傳統的大型語言模型，不會逐個標記生成文字，而是直接輸出判斷結果。
創辦人Diogo Almeida是前OpenAI研究員，他將Jev打造成一個決策引擎。用家只需輸入電郵或個案，並附上一組簡短問題，模型便會直接回覆選項、評分或「是與否」的機率。業界對此感到興奮，因為傳統人工智能在處理簡單查詢時浪費大量昂貴的聊天模型標記，而用家往往只想要結論。
TypeSafe聲稱，Jev的回應速度比傳統模型快200倍，成本則便宜400倍。然而，從技術層面看，Jev的定位相當狹窄，難以與Anthropic或OpenAI等前沿模型競爭。
前沿模型如Claude和GPT之所以表現出色，是因為它們按步驟思考。鏈式思考並非裝飾，因為艱難的判斷需要留意關鍵細節、排除看似合理但錯誤的解讀，然後才下定論。這個過程消耗標記，但並非浪費。若去掉思考軌跡，得到的不是更純粹的判斷器，而是更淺薄的模型。
此外，OpenAI和Google的Gemini已推出Flash及Mini模型來應付這類需求，它們速度快、成本低，且可鎖定輸出格式。Flash模型仍然是逐標記生成，而Jev的賣點在於能夠一次過評分用家定義的選項，因此更快，亦不需為輸出文字收費。不過，這種優勢只有在需要處理極大量微小決策，且每一秒成本都極關鍵的情況下才顯著。
Jev或許能作為推理模型前的廉價過濾器存活，但無法取代前沿模型成為可靠的判斷工具。若良好的判斷需要思考，思考需要消耗標記，而Flash已能應付平價的查詢，那麼Jev只是一種針對縫隙問題的新架構，而這個問題已被各大實驗室以價格壓到極低。