ash2023

Darkbloom計畫：將閒置的Mac轉變為AI基礎設施
每次使用AI工具時，請求都會經過多層基礎設施，才到達實際執行工作的硬體。
流程通常穿越不同層級的資料中心、冷卻系統、GPU硬體和層層利潤 → 全部都包含在你支付的費用中。
@eigenlabs團隊稱之為推理稅。
Darkbloom是他們為解決此問題的研究計畫。
前提：已存在超過1億台Apple Silicon Mac，已付費，且大部分時間閒置。若將這些計算資源組織成一個可用的推理網絡，具有真正的隱私保障和更佳的經濟性，會是怎樣？
- - - - -
為何選擇Apple Silicon
Apple Silicon不僅數量充足，而且在推理方面在技術上也非常適合：
• 統一記憶體：CPU與GPU共享同一池，消除獨立GPU瓶頸
• 模型效率：Apple Silicon只處理每個請求實際需要的模型部分，而非整個模型 → 較大模型運行得更快、更便宜
• 能源效率：約30W即可運行一個60B模型，而資料中心GPU則需多倍電力
• 對Mac用戶的邊際成本：主要是電力，硬體已經購買
- - - - -
困難之處：建立可信任
一個基本問題是：如果提示在陌生人的Mac上運行，什麼能阻止他們讀取？
Darkbloom的解答是讓竊聽在架構上不可能，而非僅在合約上禁止：
• 調試器：在核心層阻擋
• 記憶體讀取：通過Hardened Runtime拒絕

你說錢買不到快樂？
對不起，來日本吧

每個人似乎都已退出加密貨幣，因為他們是

我們現在實際上必須用腦子來工作

字面上的一切遊戲化
參與度普遍下降 + 人們到處被多巴胺/資訊轟炸
隨著公司必須為越來越少的注意力份額而戰，遊戲似乎成為一種便宜的方式來吸引人們回到他們的平台

“是的兄弟，我最近空閒時喜歡編程，並且在使用肽類”

歷史不會重演，但它會押韻

當一個失敗的鞋類品牌股票在轉型為人工智慧後飆升420%時

加密貨幣的導航是殘酷的
每週，我們都會得知區塊鏈、消費者應用程式或去中心化金融應用程式的又一個漏洞。
然後我們就會想知道為什麼一般人不會接觸加密貨幣。為什麼他們會呢？