LLM 的「湧現」能力清單，可以看到清單上最大的 Model 「PaLM 540B」，湧現的能力也最多。
AI 科學家看起來真的很想找出智慧的源頭啊... （怕.jpg）
https://www.jasonwei.net/blog/emergence
from g0v.social
Content from https://g0v.social/@jimyhuang
結果來的還真快。
我覺得全世界現在就在引頸期盼 Meta 釋出這個 LLaMA Model 的授權了。然後這群人訓練方法跟 Stable Diffusion 後面出現大量高品質 Model 的作法如出一轍阿，用別人家的 AI 產圖，反正圖片沒版權，再來訓練自己家 AI ...這次是語料了
--
文章在這裡：
《如何用幾美元訓練出可以在 Raspberry Pi 上運行的 Chat bot》https://reality.hk/train-your-chatbot-on-pi-with-a-few-dollars/
受災戶路過... 沒想到這麼多 Base Image 在上面的還會沉下去
雖然很早就腳踏兩條船了，不過最後還是得自己弄一個比較實在啊3月的鳥事有多一件🐔
https://blog.alexellis.io/docker-is-deleting-open-source-images/
一樣是快速的想法留做紀錄。
當生成 AI 讓很多人增加生產力後，那回過頭來重要的反而是，我們想要生產什麼？如果每個人的技能起跑點被強制拉平，動機和目的，想要完成什麼，看來就變成區別彼此的關鍵了。
簡單說，做什麼是對社會有意義，對自己有價值，對人類有貢獻的事情，好像比以前來說，又更重要了。想要做什麼在這時代又有另一層意義了，因為可能真有新工具幫助自己做到。
我猜很多人對 AI 的憧憬和樂觀來自這裡吧。（當然我是屬於悲觀那種人類的）
離每個人技能拉平那天很遙遠，也要搭配無條件收入（更遙遠），結果好像反而得先推無條件收入... 才不至於悲觀下去啊
快速紀錄一些想法。Stable Diffusion 後續的 Open Source 效應其實很值得來討論。
從 webui，自訓練各種用途的生圖 Model（生成真人 vs 生成動漫風），訓練 Embedding ，到訓練 LORA，和很近期的 ControlNet，以及與各式繪圖工具整合（ Blender / Photoshop...），整個歷程大概半年。
而檢閱過 ChatGPT 目前發展和可用的 API，Embedding 是早就有了，各種用途的 Model 也有了（例如 Bing 搜尋），以及 Fine Tuning API（像是LORA嗎？），到近期的 GPT-3-turbo，有帶入回答角色的 API（很像是預先做好的 ControlNet 嗎？），比對之下好像歷程很接近。
不曉得有沒有人研究這種圖片 / 文字生成式 AI 演算法比對，然後 OpenAI 沒有 Open，好像要下放到每個人電腦中，不要一直繳 AI 稅給其他公司，只能靠 FB 那個 LLaMA 了。
p.s. 昨天 Slashdot 看到的文章就在說這個
https://simonwillison.net/2023/Mar/11/llama/
這位 YouTube 講是否應該用 Copilot ，還真生動有趣
"Come-on copilot, why you gotta be like that!!!"
5/5) 人類替代方案、考慮和備援
在適當的情況下，您應該有權退出，並可以接觸到能夠迅速考量並解決您的問題的人。在適當的情況下，您應該能夠選擇人類回應備援方案，並退出自動化系統。
適當性應基於特定情境下的合理期望進行確定，並關注確保廣泛可訪問性和保護公眾免受特別有害的影響。在某些情況下，法律可要求採用人類或其他替代方案。
如果自動化系統失效或您希望對其對您的影響提出上訴或挑戰，您應該有權選擇及時的人類回應解決方案。
人類回應的備援方案應易於訪問、公平、有效、維護且伴隨著適當的操作人員培訓，並且不應對公眾造成不合理的負擔。在敏感領域（包括但不限於刑事司法、就業、教育和健康）有預定用途的自動化系統，還應該為其目的進行調整，提供有意義的監督訪問，為與系統交流的任何人提供培訓，對不利或高風險決策時，應納入人類決策參與。
這些人類治理過程的描述以及對其及時性、可訪問性、結果和有效性的評估的報告應盡可能公開。
4/5) 通知和解釋
您應該會知道自動化系統正在運作，並了解它的產出和貢獻如何影響您。
自動化系統的設計師、開發者和部署者應提供可訪問的易懂文件，包括對整個系統運作和自動化作用的清晰描述、告知使用此類系統的人員或組織的負責人，以及易懂、及時、可訪問的結果說明。這樣的通知應保持最新狀態，並且受到系統影響的人應被通知重大使用案例或關鍵功能的更改。您應該知道自動化系統如何決定影響您的結果以及為什麼這樣做，包括在自動化系統不是唯一決定結果的輸入時。自動化系統應提供對您和任何需要了解系統的操作人員有意義、技術上可行和有用的說明，並根據脈絡進行風險層級校準。這些清晰和品質優良的自動化系統概述、通知和解釋報告，應盡可能公開。
任何同意請求都應該是簡短的，用簡單的語言可以理解，並且讓您擁有可以控制數據收集和特定的使用環境的權力；應該改變目前難以理解的廣泛使用資料通知和選擇做法。
您的敏感資料（包括健康、工作、教育、刑事司法和金融以及與孩童）應優先保護。 在敏感領域，您的資料和相關推斷應僅用於必要的功能，並應受到道德審查和使用禁令的保護。您和您的社區應該免受未經檢查的監視； 監視技術應受到更嚴格的監督，其中部署前評估至少包括其潛在危害和範圍限制，以保護隱私和公民自由。
持續性的監視不應在教育、工作、住家使用，若要使用此類監視技術須限制其權力、機會或使用權。
只要有可能，您應該有權訪問報告，確認您的資料決定已得到尊重，並評估監控技術對您的權利、機會或使用權的潛在影響。
3/5) 資料隱私
您應該通過內建的保護措施免受資料濫用的影響，並且您應該有權決定如何使用您的資料。
確保資料收集符合合理預期，並且僅收集特定情況下絕對必要的資料，這類保護措施應該是預設的以保護您免受隱私侵犯。自動化系統的設計者、開發者和部署者應最大可行性下優先徵求您的許可並尊重您關於以適當方式並範圍內收集、使用、訪問、傳輸和刪除您的資料的決定。
在不可行的情況下，應使用替代的隱私設計保護措施。系統在其使用經驗設計和設計決策中，不應採用預設會混淆使用者選擇或讓其承擔侵犯隱私的設置。
只有在可以適當且有意義地給予同意的情況下，才應使用同意來證明收集資料的合理性。