from g0v.social

在資訊爆炸的壓力下,能夠靜心好好沉浸在一款遊戲,也是一種幸福。

最近特價入手的是潛水抓魚、經營壽司的遊戲:Dave the Diver,像素風格,誇張好笑的動畫,恰到好處的獎勵,一玩就上手,支援 Steam Deck 但畫面有點太小,建議還是大螢幕玩。

不覺想起,幾年前也想學潛水,AI 時代來臨後,我可以好好去學了嗎?
🍣 🐟 🤿

GPT4出來一陣子,還沒看到 Emergent Ability 清單(哪裡有的話麻煩提示一下),倒是半個月前有人深度討論這個現象的文章,結論還是感到怕:

But what does this all mean? Where do we go from here?

In short, at this point, it is unclear. There are several important things about the emergent abilities of large language models to keep in mind.

1. We don't know at what scale they will appear
2. We don't know the level of ability until they do appear
3. We don't know the landscape of potential abilities

https://www.assemblyai.com/blog/emergent-abilities-of-large-language-models/

LLM 的「湧現」能力清單,可以看到清單上最大的 Model 「PaLM 540B」,湧現的能力也最多。

AI 科學家看起來真的很想找出智慧的源頭啊... (怕.jpg)
https://www.jasonwei.net/blog/emergence

結果來的還真快。

我覺得全世界現在就在引頸期盼 Meta 釋出這個 LLaMA Model 的授權了。然後這群人訓練方法跟 Stable Diffusion 後面出現大量高品質 Model 的作法如出一轍阿,用別人家的 AI 產圖,反正圖片沒版權,再來訓練自己家 AI ...這次是語料了

--
文章在這裡:
《如何用幾美元訓練出可以在 Raspberry Pi 上運行的 Chat bot》

https://reality.hk/train-your-chatbot-on-pi-with-a-few-dollars/

受災戶路過... 沒想到這麼多 Base Image 在上面的還會沉下去
雖然很早就腳踏兩條船了,不過最後還是得自己弄一個比較實在啊

3月的鳥事有多一件🐔

https://blog.alexellis.io/docker-is-deleting-open-source-images/

一樣是快速的想法留做紀錄。

當生成 AI 讓很多人增加生產力後,那回過頭來重要的反而是,我們想要生產什麼?如果每個人的技能起跑點被強制拉平,動機和目的,想要完成什麼,看來就變成區別彼此的關鍵了。

簡單說,做什麼是對社會有意義,對自己有價值,對人類有貢獻的事情,好像比以前來說,又更重要了。想要做什麼在這時代又有另一層意義了,因為可能真有新工具幫助自己做到。

我猜很多人對 AI 的憧憬和樂觀來自這裡吧。(當然我是屬於悲觀那種人類的)

離每個人技能拉平那天很遙遠,也要搭配無條件收入(更遙遠),結果好像反而得先推無條件收入... 才不至於悲觀下去啊

快速紀錄一些想法。Stable Diffusion 後續的 Open Source 效應其實很值得來討論。

從 webui,自訓練各種用途的生圖 Model(生成真人 vs 生成動漫風),訓練 Embedding ,到訓練 LORA,和很近期的 ControlNet,以及與各式繪圖工具整合( Blender / Photoshop...),整個歷程大概半年。

而檢閱過 ChatGPT 目前發展和可用的 API,Embedding 是早就有了,各種用途的 Model 也有了(例如 Bing 搜尋),以及 Fine Tuning API(像是LORA嗎?),到近期的 GPT-3-turbo,有帶入回答角色的 API(很像是預先做好的 ControlNet 嗎?),比對之下好像歷程很接近。

不曉得有沒有人研究這種圖片 / 文字生成式 AI 演算法比對,然後 OpenAI 沒有 Open,好像要下放到每個人電腦中,不要一直繳 AI 稅給其他公司,只能靠 FB 那個 LLaMA 了。

p.s. 昨天 Slashdot 看到的文章就在說這個
https://simonwillison.net/2023/Mar/11/llama/

這位 YouTube 講是否應該用 Copilot ,還真生動有趣
"Come-on copilot, why you gotta be like that!!!"

https://youtu.be/RDd71IUIgpg

我要說我錯了,現場可能是場地關係,感受到滿滿的人,可見 ChatGPT 開啟了這段熱潮,關心影響的人還是很多,只是我在同溫層碰不到這群人...

5/5) 人類替代方案、考慮和備援

在適當的情況下,您應該有權退出,並可以接觸到能夠迅速考量並解決您的問題的人。在適當的情況下,您應該能夠選擇人類回應備援方案,並退出自動化系統。

適當性應基於特定情境下的合理期望進行確定,並關注確保廣泛可訪問性和保護公眾免受特別有害的影響。在某些情況下,法律可要求採用人類或其他替代方案。

如果自動化系統失效或您希望對其對您的影響提出上訴或挑戰,您應該有權選擇及時的人類回應解決方案。

人類回應的備援方案應易於訪問、公平、有效、維護且伴隨著適當的操作人員培訓,並且不應對公眾造成不合理的負擔。在敏感領域(包括但不限於刑事司法、就業、教育和健康)有預定用途的自動化系統,還應該為其目的進行調整,提供有意義的監督訪問,為與系統交流的任何人提供培訓,對不利或高風險決策時,應納入人類決策參與。

這些人類治理過程的描述以及對其及時性、可訪問性、結果和有效性的評估的報告應盡可能公開。

4/5) 通知和解釋

您應該會知道自動化系統正在運作,並了解它的產出和貢獻如何影響您。
自動化系統的設計師、開發者和部署者應提供可訪問的易懂文件,包括對整個系統運作和自動化作用的清晰描述、告知使用此類系統的人員或組織的負責人,以及易懂、及時、可訪問的結果說明。這樣的通知應保持最新狀態,並且受到系統影響的人應被通知重大使用案例或關鍵功能的更改。您應該知道自動化系統如何決定影響您的結果以及為什麼這樣做,包括在自動化系統不是唯一決定結果的輸入時。自動化系統應提供對您和任何需要了解系統的操作人員有意義、技術上可行和有用的說明,並根據脈絡進行風險層級校準。

這些清晰和品質優良的自動化系統概述、通知和解釋報告,應盡可能公開。