Articles

from g0v.social

今天跟同事分享了幾個開源轉商業的案例,都蠻有意思

Ardour: 開源,但要運作在 Windows / Mac 得自己 Compile ,而 Linux 則仰賴各社群的打包

Upscayl: 開源,原本作佛心,現在有要想提供雲端服務

Odoo: 開源,但提供額外有用套件需要使用雲端服務才有
https://nutjs.dev/blog/i-give-up

Nutjs: 轉為閉源,因為轉商業過程得到許多偏激言論,寧願閉源來的清淨

分享這些起因就是看到 Nutjs 這篇部落格「I'm giving up — on open source」,和 hacker news
https://nutjs.dev/blog/i-give-up

https://news.ycombinator.com/item?id=40139837

我自己是沒在用 Nutjs,其他都有在用或用過,翻出來看看辛苦的開發者活的好不好~~

最後實現的組合技:
自製 rm 的 bash wrapper,一律拿掉 f,根據有 r/R 就加上 I,無就加上 i

wrapper 本身最後執行指令時,會去呼叫 safe-rm。

然而 safe-rm 的系統安裝方式是放到 /user/local/bin/rm ,來取代日常的 rm,雙重防呆手段~~

當要用原始 rm 時還是可以 /bin/rm。

Anthropic 之前有發了一篇可以把問題潛伏在大模型中,並給予觸發醒來的條件,例如 2026 年才給予 SQL Injection 的程式碼,簡稱 Sleeping Agent。

昨天他們發表研究,有辦法針對 LLM 進行測試,以偵測到這類潛伏的威脅:
Simple probes can catch sleeper agents
https://www.anthropic.com/research/probes-catch-sleeper-agents

該實驗根據一個假設出發,如果 LLM 有欺騙的習慣(?),那這個 LLM 可能很難不去思考如何欺騙。

我覺得無論是假設,還是這個實驗,都非常有趣,根本是測謊器概念的延伸吧。

from Feedly

比亞迪銷量超越特斯拉、歐洲每5輛電動車就有1輛中國製...德國汽車教父沉重:已被逼到窘境

「今年,將是『它』的勢力大幅改寫全球版圖的一年⋯⋯。我們,正處於一個進退維谷的窘境。」說話的是歐洲汽車研究權威機構波鴻研究中心主任、德國汽車教父杜登霍夫(Ferdinand Dudenhöffer)。   杜登霍夫口中的「它」是中國,這個原本被德國汽車業認為無足輕重的對手,在短短幾年間脫胎換骨,讓歐洲備感威脅。   據歐洲運輸環境聯合會(T&E)統計,2023年歐盟銷售的電動車中,…

Catholic Group Defrocks AI Priest After It Gave Strange Answers

The Catholic advocacy group Catholic Answers released an AI priest called "Father Justin" earlier this week — but quickly defrocked the chatbot after it repeatedly claimed it was a real member of the…

Simple probes can catch sleeper agents

This “Alignment Note” presents some early-stage research from the Anthropic Alignment Science team following up on our recent “Sleeper Agents: Training Deceptive LLMs that Persist Through Safety…
jimmy