Gate 廣場|3/5 今日話題: #比特币创下近一月新高
🎁 解讀行情走勢,抽 5 位錦鯉送出 $2,500 仓位體驗券!
隨著白宮表示已向參議院提交凱文·沃什擔任美聯儲主席的提名,美國參議院未通過叫停特朗普打擊伊朗的投票,比特幣於今日凌晨創下 2 月 5 日以來新高,最高觸及 74,050 美元,加密貨幣總市值回升突破 2.538 萬億美元。
💬 本期熱議:
1️⃣ 凱文·沃什的提名是否意味著降息預期升溫?
2️⃣ 當前關口,你是持幣待漲、順勢追多,還是反手布局回調?
分享觀點,瓜分好禮 👉️ https://www.gate.com/post
📅 3/6 15:00 - 3/8 12:00 (UTC+8)
認為 Python "會為你管理記憶體"的迷思,正是你的代理在運行4小時後OOM的原因
上個月並行運行了24個多代理,消耗的tokens是單一會話的10倍,卻沒有產生任何有用的輸出
真正的問題並不是tokens,而是沒有人在監控的記憶體
Python使用引用計數加上循環垃圾回收器。聽起來沒問題,直到你透過C擴展載入numpy陣列,這些擴展沒有正確遞減引用。那些物件永遠不會被回收,它們就那樣存在,逐漸增長,默默無聲
每處理100個tokens的上下文,你的長期運行代理就會進行一次tensor分配,可能不會釋放。將這個乘以24個並行會話,你每天就會漏掉約400MB的記憶體
> 只要增加更多RAM
是的,這需要每月3萬美元的計算費用,來彌補tracemalloc在10分鐘內就能捕捉到的問題