CIM技術類型
摘要
2026年2月20日加拿大AI晶片新創廠商Taalas發布可在Llama 3.1 8B模型實現16,960Tokens/s/user速率的AI晶片Taalas HC1,且不需使用HBM、CoWoS,單一晶片TDP僅約250W;不僅如此,其他Inference晶片新創廠商也在2026年積極推出新品,例如2026年2月24日SambaNova、MatX緊接著分別推出SN50、MatX One晶片,Axelera AI、Positron AI也預計在2026年分別推出Europa、Asimov晶片。
本篇報告主要深度解析:(1)記憶體內運算vs.馮.諾依曼架構;(2) Taalas HC1技術背景;(3)高效率Inference晶片新創廠商比較。期能解析CIM技術與Taalas實現高效率運算的原理、Inference晶片新創廠商的競爭態勢,與Inference晶片的未來可能發展。
