Prompt: “為什麼人工智慧有時候會表現出胡說八道的現象?舉出幾個有趣的實例。”to #ChatGPT 人工智慧(AI)有時候會表現出「胡說八道」的現象,這通常是由以下幾個因素造成的: 1.機器學習的統計性質 AI 並不是在「理解」內容,而是基於大量數據學習語言模式。當它遇到未見過或模糊的問題時,可能會根據統計關聯性生成看似合理但實際上錯誤的回答。 2.訓練數據的限制 AI 的知識來自訓練數據,如果數據本身有錯誤、偏見或缺乏特定領域的信息,AI 可能會產生錯誤或不準確的回應。 3.缺乏真正的理解與推理能力 AI 沒有真正的「理解」,它只是根據詞語的關聯性生成回應,而不是像人類一樣有邏輯推理或常識判斷能力。因此,在某些情境下,它可能會組合出毫無根據的內容。 4.過度一般化或錯誤推斷 AI 可能會基於有限的數據推斷出錯誤的規律,導致回答出現不合理的推論。例如,它可能會把兩個相似但無關的概念混為一談。 5.隨機性(溫度參數) AI 的回答通常帶有一定程度的隨機性,特別是在溫度(temperature)參數較高時,會更傾向於產生創意性或隨機的回應,但這也可能導致「胡說八道」的現象。 6.缺乏即時更新能力 如果 AI 沒有即時連接到最新資訊,它的回答可能會基於過時的知識,從而出錯。 這些問題目前仍是 AI 領域正在努力解決的挑戰,因此在使用 AI 回答時,仍需要人類的判斷與驗證。 當 AI 胡說八道時,可能會產生一些有趣甚至荒謬的錯誤,這類現象在 AI 研究領域被稱為 「幻覺」(hallucination)。以下是幾個經典的實例: 1. 偽造的學術論文與文獻 AI 生成模型有時會在回答學術問題時捏造不存在的論文。例如,當被要求提供某個主題的參考文獻時,它可能會編造出一篇看似合理的論文,甚至包含假作者、假標題和假發表期刊。這些內容看似真實,但實際上根本不存在! 2. 鬼才數學答案 有些 AI 會給出數學問題的荒謬解法,例如: •問:「如果我有兩個蘋果,拿走一個,還剩幾個?」 •AI:「你現在有 1.5 個蘋果,因為量子力學告訴我們物體可以處於疊加狀態。」 這種回答雖然聽起來有創意,但完全偏離了正確答案。 3. 胡亂解釋歷史事件 AI 可能會錯誤地組合歷史資訊,例如: •AI 曾回答:「拿破崙和亞伯拉罕·林肯在二戰期間合作制定了《凡爾賽條約》。」… Continue reading AI Hallucination | hǝˌluːsiˈnеiʃǝn |
為什麼人工智慧有時候會表現出胡說八道的現象?
我們如何改進提示語句,以減少人工智慧中的幻覺?
Tag: AI-Intro
AI Hallucination | hǝˌluːsiˈnеiʃǝn |
谷歌提示詞要點
Google Prompting Essentials
谷歌提示詞要點
Google Prompting Essentials
搞懂 AI提示詞
Understand AI prompts
搞懂 AI提示詞
Understand AI prompts
AI 提示詞的寫法:
Persona: 先給 AI 一個人設
Context: 給 AI 一些背景資訊
Task: 要求 AI 做一個任務.
Format: 要求 AI 輸出的格式
Screenshot showing DeepSeek spent 11 seconds to prepare the answer 主旨:新学期安亲班时间调整通知【请留意周一、周五调整】 亲爱的家长,您好: 新学期安亲班班表已确认,重点调整如下:⚠️ 周一、周五下课时间提前:由原「9点」调整为「7点结束」。📅 其余天数(周二至周四)维持原时段:9:00-21:00。 此次调整基于家长反馈,希望优化孩子作息与接送便利性。请留意时间变动,提前安排行程。 若有疑问,欢迎联系班务组:(电话/邮箱)。感谢您的配合! 祝 安好○○补习班 经理(日期) 【5秒重点】✓ 周一、五提早至19:00下课✓ 其他天数时间不变✓ 疑问请洽班务组
Nvidia’s rise in the age of AI
Nvidia’s rise in the age of AI
Financial Times (FT) : The Nvidia Economy
https://youtu.be/9HDQH6ReAyw?si=FGNmIlo_wBZyEDqQ 2025年3月13日, Nvidia’s dominance in the AI boom has made the US chipmaker one of the world’s most valuable companies. FT reporters unpick the fallout following the release of China’s DeepSeek AI model and examine the geopolitical challenges facing the Silicon Valley company. 00:00 Introduction 00:59 Age of AI 01:32 DeepSeek 03:45 Artificial general… Continue reading Nvidia’s rise in the age of AI
【清華姚班深度學習課程】
清華大佬終於把深度學習講明白了
2025春季學期最新內部課程
Understand the deep learning
【清華姚班深度學習課程】
清華大佬終於把深度學習講明白了
2025春季學期最新內部課程
Understand the deep learning
AI in China (Deep Seek) February 27, 2025, Welcome to AI in China! Explore the cutting-edge advancements and innovations in artificial intelligence shaping the future of technology, business, and everyday life in China. From AI breakthroughs to real-world applications, join us as we dive into how this fast-evolving field is transforming the world’s most dynamic tech hub.
Additional References Deep Learning https://mitpress.mit.edu/books/deep-learning Dive into Deep Learning https://d2l.ai/ Use Google! DeepMind and OpenAl resources CMU & Stanford & Berkeley Courses Some wonderful BLOGs https://towardsdatascience.com/ https://colah.github.io/ https://lilianweng.github.io/lil-log/
AI: 資料蒐集與學術寫作小幫手
Data collection and academic writing helper
AI: 資料蒐集與學術寫作小幫手
Data collection and academic writing helper
生成式AI:資料蒐集與學術寫作小幫手
[臺大圖書館HELP講堂20250226]
https://youtu.be/tC3cXqwAN2w?si=gzVJp-TFehafGQSi 2025年3月5日, 本課程將介紹如何透過生成式AI工具蒐集資料、進行事實查核,並增進研究效率。了解AI如何協助學術寫作,以及引用AI生成資料的注意事項。此外,探討AI對於論文投稿、審查與學術倫理的影響。 講者:范蔚敏、陳芷洛 若有任何問題歡迎來信 tul@ntu.edu.tw或來電(02)33662326諮詢,謝謝您的參與! 講義與相關文件,請參見HELP講堂:https://www.lib.ntu.edu.tw/node/1817#… 00:00:00 前言 00:02:51 一、淺談提示詞 (Prompt) 00:10:40 二、使用前的對話練習 00:15:32 三、生成式AI工具問答方法 00:25:06 四、免費生成式AI工具簡介 00:31:11 五、AI與資訊安全 00:33:53 六、資訊查核 00:45:16 七、如何引用AI生成內容 00:53:01 八、學術投稿及審查 01:03:56 九、學術倫理與著作權 01:10:33 十、結語 #生成式ai #chatgpt #資訊查核 #文獻引用 #學術倫理 一本正經地胡說八道 (A serious nonsense) Screenshot of DeepSeek’s answer DeepSeek gives a travel journey. Elaborate ..…, step by step, or… Continue reading AI: 資料蒐集與學術寫作小幫手
Data collection and academic writing helper
生成式AI工具問答方法
How to write Prompts in five categories ?
生成式AI工具問答方法
How to write Prompts in five categories ?
DeepSeek-AI gives the Prompt examples to the above five categories. Screenshot of DeepSeek’s answer. 以下是生成式 AI 工具提示工程的 五種方法分類,附實用繁體中文範例: 1. 追問法 透過連續提問逐步細化回答內容範例: 「你提到再生能源具成本效益,能否提供 近十年太陽能與風能成本對比的具體數據?」 「先前你建議正念冥想能減壓,有哪些科學研究支持此說法?是否存在例外情況?」 2. 擴寫與改寫法 要求延伸內容、簡化敘述或調整風格範例: 「將這段關於氣候變遷的短文擴寫成 500 字的部落格文章,聚焦個人可執行的解決方案。」 「用 10 歲孩童能理解的語言 改寫這段區塊鏈的技術性說明。」 3. 反問法 引導 AI 質疑前提或探索相反觀點範例: 「你認為 AI 將取代人類工作,哪些產業可能不受影響?原因為何?」 「若電動車如此環保,大規模生產可能引發哪些環境負面效應?」 4. 元素碰撞法 融合無關概念激發創意範例: 「結合 古希臘哲學 與 現代新創文化,設計一套領導力培訓工作坊大綱。」 「設計一座融合 中世紀建築風格 與 AI 驅動基礎建設… Continue reading 生成式AI工具問答方法
How to write Prompts in five categories ?
TOKEN 是 AI 的「字」還是「錢」?
【數位關鍵字】 TOKEN是AI的「字」還是「錢」?所有人都該懂的基本觀念.
https://youtu.be/4mbQA-_MctQ?si=FdEjIRaDaC597dvf 2025年3月7日, 使用生成式AI服務時,大家常會碰到「TOKEN」這個名詞。不管是OpenAI、Google、AWS或Anthropic等提供的AI服務,計費方式幾乎都與TOKEN相關,常見標示為「每千個TOKEN多少錢」。數位時代創新長黃亮崢James,邀請AWS社群英雄蔣鐙緯Ernest,深入解析TOKEN這個影響AI使用成本與效能的關鍵概念。 聽完這集節目,你可以學到: 1.TOKEN的基本概念:TOKEN是大型語言模型處理文本的基本單位,可視為模型理解文字的最小片段。 2. 不同語言TOKEN差異:英文一個單字約1.3個TOKEN;中文則約一個字2個TOKEN。雖然中文每字TOKEN較多,但表達同樣意思的字數較少,整體差異不大。 3.常見TOKEN用量參考: 。簡訊(約70個中文字):約140-160個TOKEN 。A4文件(約800字):約1,600-2,000個TOKEN 。部落格文章(2,000字):約4,000-5,000個TOKEN 4.企業評估TOKEN預算的方法:先定義問題、進行小規模試驗,並考慮使用頻率。他強調,現今TOKEN單價已相當低廉(如Amazon Nova模型,輸入每千TOKEN僅約0.000035美元),企業不應過度擔心TOKEN成本,而應專注於找出能為業務帶來最大價值的AI應用場景。 5.多模態輸入的TOKEN計算:圖片、語音等多模態輸入在TOKEN計算上更為複雜: 。圖片:一張1080p圖片約50-250個TOKEN,高品質模式可能超過1,000個 。語音:通常按時間長度計價 。影片:拆解成一連串圖片來處理,TOKEN用量相當可觀 Prompt優化與TOKEN的關係:Ernest分享了精簡Prompt的重要性。例如: 。冗長版:「請你寫一篇環保文章,介紹概念、說明重要性,舉例如何實踐…」 。精簡版:「寫一篇300-500字環保文章,介紹概念、重要性及日常例子」 同樣需求,精簡版能節省TOKEN並達到相似效果。 6.不同模型選擇考量:GPT-3.5和GPT-4的TOKEN單價差了約10-15倍。Ernest建議採「階梯式」策略:簡單任務用便宜模型,只在需要強大理解力時才用高階模型。另外,要注意即使名稱相同的模型(如GPT-4),不同時間使用可能是不同版本,性能有所差異。 7.自建vs雲端服務:自建模型或租用算力涉及多方面成本,包括算力成本(高端GPU價格高)、維運成本(散熱、電力)、人力成本(AI工程師)等。Ernest提醒,這些「隱形成本」常被低估,反而使API服務在總成本上更划算。
李宏毅
Hung-yi Lee
NTU Speech Lab
李宏毅
Hung-yi Lee
NTU Speech Lab
李宏毅(1986年-),台灣計算機科學家,國立台灣大學電機工程學系教授,研究領域包括語意理解、語音辨識、機器學習、深度學習等。
早年生活 李宏毅在大學二年級時,因對電機系許多課程感到困惑,曾一度非常沮喪迷惘,甚至萌生了退學的念頭。他當時選了一門「數位通訊處理」課程,發現自己難以聽懂,但他並未放棄,不棄選不退修,最終豁然開朗,「原來用手機撥電話給別人時,中間發生的事就是這些信號處理。」找到學習的興趣後,李宏毅開始跟隨中央研究院李琳山院士做專題,隨後於2010年從國立台灣大學取得碩士學位,2012年取得博士學位。2012年9月至2013年8月間,李宏毅於中央研究院資訊科技創新研究中心擔任博士後研究員。2013年9月以客座科學家身份前往麻省理工學院電腦科學暨人工智慧實驗室。2014年返台,擔任台灣大學電機工程學系教師至今。 開設課程 2015年,李宏毅開始在台灣大學講授機器學習課程,選課人數通常爆滿,有400多人來修。於是,李宏毅將學生分在兩間教室,一間現場看老師上課,另一間同步看直播。由於直播上課的諸多限制,李宏毅養成了錄製課程影片的習慣。一開始李宏毅將影片上傳至個人主頁,後來由於螢幕側錄軟體的序號過期,無法導出MP4,但有導出至YouTube的選項,於是李宏毅開始將課程影片上傳至YouTube。此舉不僅幫助了台灣大學的學生,還意外嘉惠台灣大學以外的學生。在其影片下方,還有中國大陸的學生留言感謝,表示已經聽完全部課程,並留下筆記連結。截至2021年9月30日,李宏毅的YouTube頻道有超過20萬位訂閱者。 李宏毅擅長用淺顯易懂的語言,以學生喜愛的精靈寶可夢、涼宮春日等動漫來講解複雜的機器學習技術,因此被親切地稱為「精靈寶可夢大師」。中華民國電腦學會稱李宏毅為「第一個公開有系統地完整深入講解深度學習技術的學者,使得華文的深度學習教學與英文世界並駕齊驅。」 https://youtu.be/QLiKmca4kzI?si=jUaqZ1tuVQjogtz5 這段影片的重點摘要如下: 生成式AI的現況與能力: 生成式AI能做到許多令人驚嘆的事,例如生成逼真的人臉、語音,甚至可以自動製作投影片和講稿。 影片展示了如何利用ChatGPT、Breezy Voice和Heygen等工具,快速生成一個AI分身來進行教學。 AI能夠產生出有創意的內容,例如笑話和勵志故事,但有時也會出現邏輯混亂或不合常理的結果。 除了生成內容,AI也開始展現出「思考」的能力,例如在回答問題前先進行「腦內小劇場」的推演。 AI Agent的出現,使AI能夠執行更複雜的任務,例如上網搜尋、操作滑鼠鍵盤,甚至協助訓練機器學習模型。 生成式AI的運作機制: 生成式AI的本質是「文字接龍」,即根據已有的token序列,預測下一個最有可能出現的token。 「token」是組成複雜物件的基本單位,可以是文字、圖像、聲音等。 類神經網路是生成式AI的核心,它通過多層次的運算,將複雜問題拆解成簡單的步驟。 「Transformer」是一種常見的類神經網路架構,它能夠考慮輸入的全局資訊,但也有輸入長度的限制。 Mamba是可能可以解決Transformer輸入長度限制問題的另一種類神經網路架構。 生成式AI的發展與未來: 生成式AI的發展歷程,從只能進行單一任務的「專才」,進化到能夠執行多種任務的「通才」。 「Prompt(提示)」在通用模型中扮演關鍵角色,通過明確的指令,AI才能產生正確的行為。 「終身學習」是AI發展的重要趨勢,通過不斷學習新的知識和技能,AI能夠適應不斷變化的環境。 「微調(Fine-tune)」是賦予AI新能力的方法之一,但需要注意避免破壞原有的能力。 「模型編輯(Model Editing)」和「模型合併(Model Merging)」是更進階的技術,能夠直接修改模型參數或結合不同模型的能力。 課程重點: 課程將深入探討生成式AI的技術細節,包括類神經網路的運作、模型訓練和微調等。 課程將介紹AI Agent的概念和應用,並讓學生實際操作,體驗AI如何執行複雜任務。 課程將講解如何賦予AI新的能力,包括模型編輯和模型合併等。 課程作業會讓學生們實際操作AI去完成機器學習模型的訓練。 總結來說,這段影片深入淺出地介紹了生成式AI的現況、運作機制、發展歷程和未來趨勢,並為後續的課程內容做了鋪墊。
Talents in AI that the World Absolutely Needs
全世界百工百業都需要 AI 人才
均一教育平台,最酷的線上學習平台 👩🏫 「免費」提供從國小到高中各科的線上教學影片