Chamath: 在 AI 中你需要注意的兩個術語是 Prefill 和 Decode “在接下來的幾年裡，我認為你會聽到很多這兩個術語。” “第一個術語是 prefill，接下來是 decode。” “Prefill 和 decode 是兩種非常不同的模型思考方式，以及模型如何通過回答你提出的問題的過程。” “所以當你向 AI 發送提示時，發生的事情是模型處理它。這被稱為閱讀階段或 prefill。” “它一次性讀取你的整個提示。然後它進行一系列計算，計算所有單詞之間的關係，並將它們存儲在臨時記憶中。” “問題是這真的受限於計算能力。因此，它需要巨大的強制計算。而 Nvidia 的 GPU 在這方面表現出色。” “而他們的架構是為了大規模並行處理而設計的，這使得它們在消化這些長提示方面非常出色。” “所以問題變得越來越大，Nvidia 完全主導了這一領域。” “但下一個階段，這個關鍵階段，解碼階段，是寫作階段，對吧？” “所以模型開始生成回應，你問它一個問題，它的回應是一個標記一個標記地生成。” “然後為了選擇下一個標記，選擇下一個單詞，它必須回顧它已經說過的所有內容，以免出現幻覺。” “問題是這在記憶帶寬上受到極大的限制。” “而在我們的架構中，很久以前，我們從第一天起就做出了這些設計決策。” “所以我們採取了一種非常不同的架構方法，我們採取了一種非常保守的工藝技術。我們並沒有推動物理的邊界。” “我們使用了大量所謂的 SRAM。也就是芯片上的記憶體，以便我們能夠像其他人一樣，甚至更好地完成這個解碼的工作。” “所以現在當你把這兩件事結合在一起時，我認為這將會在整個基礎設施層的能力上創造出巨大的加速，使其變得更便宜、更有價值，我懷疑這將會吸引更多的開發者，會有更多的應用被構建，數十億數十億的人會使用它。”

我再次分析了數據。 我再次製作了一張地圖。 現在的圖片更加乾淨。 沒有選民身份證要求的州，提供福利給非法移民的可能性是有身份證要求的州的16倍（67%對4%，p<0.0001）。 民主黨正在引進並支付非法移民以獲取選票。 詳情👇