看板Soft_Job
作者oopFoo (3d)
標題Re: [討論] 用AI寫code產生的疑問
時間2023-03-29 10:36:13
※ 引述《Suleika (Suleika)》之銘言： : 相信對新技術具有敏銳度的各位， : 在這幾個月都有使用過AI來幫忙寫code， : 但在使用過程中不經有一個問題一直迴盪在我的腦海中： : 「AI幫我快速生成一個feature的模板， : 我在修改的過程中就像在做code review， : 公司還需要找初階工程師嗎？」 : 不曉得各位高手們是怎麼看待這個問題的？ https://news.ycombinator.com/item?id=35316526 這篇展示ChatGPT的威力與限制。 他問Bing如何raycast一個有displacement map的geometry. 原po問到最後，答案是不可能或給錯誤的程式。 下面有人回答他把原po的問提去問ChatGPT4，說得到很好的解決。 https://pastebin.com/PPy4vMrU ----------------------------------------------------------- 程式不錯，看來有解決，但其實不然。Displacement map是"per pixel"的效果，你用"per vertex"來運算是毫無意義。 這題一開始的假設就錯了。"per pixel"只能在gpu裡運算，想在cpu raycast "per pixel"的效果，黑人？.jpg 這也是目前LLMs的問題，它其實邏輯能力不行，但有龐大的知識。如果你問的問題不在知識裡？那就是盲人帶領盲人走入死巷。 以前我讀過一段很有道理的話。Programmer’s job is NOT to write code; Programmer’s job is to solve problems。結果現在一堆人一直在寫CRUD 現在AI寫code的風潮，其實是軟體工程的失敗。我們一直在強調DRY，REUSE.....結果現在用AI來重複生成同樣的程式碼，覺得比較有效率？ 在某方面這是這是20多年來軟體發展大倒退的結果。以前HyperCard，VB，GUI Builder，4GL把非程式師帶進來開發軟體，軟體元件一副要起飛的樣子。結果現在Web Component有人知道？有人用嗎？ 我目前不擔心AI寫code，現在看來只會製造更多智障問題需要更多的程式人員解決。 如果哪天AI真能取代人類，沒工作不是我們需要考慮的問題。 我覺得LLMs很棒，有很多應用用途。但..... -- ※ 發信站: 批踢踢實業坊(ptt-web.org.tw), 來自: 36.231.130.220 (臺灣) ※ 文章網址: https://ptt-web.org.tw/Soft_Job/M.1680057379.A.630
推 vi000246: 很棒啊 讓AI產生垃圾 再讓工程師收爛攤 03/29 10:54
→ vi000246: 讓大家知道AI不能取代工程師 03/29 10:54
推 loadingN: 確實 web仔只會CRUD才在擔心這個 03/29 10:57
推 ab4daa: 太好了 以後有更多bug可以解 03/29 11:04
推 Confusa: 今天問的是通用AI才是這個結果，未來一定會有專門寫各種 03/29 11:41
推 wilmer: 閨蜜上包養網還推薦我... 03/29 11:41
→ Confusa: code訓練有素的AI出現 03/29 11:41
→ oopFoo: 自駕還需要幾年？LLMs離真正理解code還要幾年？LLMs為何無 03/29 12:13
→ oopFoo: 法解決"幻想"問題？真正能code的AI還很遙遠。 03/29 12:13
→ oopFoo: 我覺得LLMs很好用，但現在寫code，代替search，方向錯了 03/29 12:15
推 Beersheep: 喜歡你對 reuse/dry 那段下的論點 03/29 12:29
推 badlip: 包養? 03/29 12:29
推 ededws1: 路上很多餐飲店，並不是每間都要有飯店廚師的能力 03/29 12:31
→ ededws1: 寫軟體需求越來越大，當然只能多找一些堪用的人才 03/29 12:33
推 tennyleaz: 確實 03/29 12:49
→ f26724309: 推盲人帶盲人進死巷 詠唱咒文念對很重要 03/29 14:38
推 nfsong: 你把這篇餵給chatGTP. 他就又進化了 03/29 15:05
推 piggyoil: 現在包養網都這麼直接嗎 03/29 15:05
→ nfsong: 來個人餵公子吃.... 03/29 15:05
噓 KanzakiHAria: 喔 那一堆文組已經用AI在coding做產品的是平行世界? 03/29 16:41
推 hidog: 樓上方便介紹個由ai開發完成的專案嗎 03/29 17:34
→ Firstshadow: 樓樓上指的是chatbot嗎 蛤 o’_’o 03/29 17:47
推 viper9709: 推這篇 03/29 17:48
推 TwixBar: 歐美包養真的很平常嗎? 03/29 17:48
推 qwe78971: 哪個產品是AI做的 讓我看看 03/29 20:20
推 frrr: https://i.imgur.com/pOxQkec.jpg 03/29 21:49
推 frrr: AI確實很難解決一點點需要邏輯的問題 03/29 21:51
推 GTRNO1: 嗯…你應該不太懂 你先把Open-Ended Learning Leads to Ge 03/30 02:46
→ GTRNO1: nerally Capable Agents這篇看懂 再來討論AI能不能寫code 03/30 02:46
推 boggicer: 男友上包養網 該放生嗎 03/30 02:46
推 marsantony: AI目前無法保證百分百正確，提供思路與框架方便而已 03/30 09:22
→ marsantony: 如果真的有沒有人工review的AI專案，我也想看看 03/30 09:23
推 testPtt: 用來代替搜尋引擎感覺還不錯 03/30 10:00
→ realbout: AI不是用來解決問題?那大家對AI的期望是? 03/30 10:21
推 OnlyRD: 不會啊，AI可以生成片段的程式，而且風格近似，光 03/30 12:37
推 Chiason: 是這個包養平台嗎 03/30 12:37
→ OnlyRD: 是這樣就減少很 03/30 12:37
→ OnlyRD: 多打字跟review的功夫。 03/30 12:37
噓 strlen: 軟體工程的失敗？你說失敗就失敗？你誰阿你？ 03/30 14:21
→ strlen: DRY大家都有在做好嗎？重點不是DRY這觀念 重點是DRY要切割 03/30 14:22
→ strlen: 到多細小 共用模組要怎麼切 這是永遠沒有一個銀彈的問題 03/30 14:22
推 Markell: 交男友跟包養有什麼差別 03/30 14:22
→ strlen: 你仔細去想想為什麼會有重複的code 不是因為大家想重複好 03/30 14:23
→ strlen: 嗎？是因為真實世界的需求就是有無窮多種 03/30 14:23
→ strlen: 你模組切太大塊 就沒辦法應付多樣化的需求 切太小 又是跟 03/30 14:24
→ strlen: 沒切一樣 這你要怎麼解決？講那麼多 終究還是要回歸需求面 03/30 14:24
→ strlen: 這完全跟什麼邏輯一點關係也沒有 也跟CRUD一點關係也沒有 03/30 14:25
推 fuoya: 包養網到底在紅什麼? 03/30 14:25
→ strlen: 今天還是有大量CRUD碼農 就是因為實務端需求面太多樣化了 03/30 14:26
→ strlen: 跟效率也沒任何關聯 整篇完全不知所云 大概是雲工程師吧 03/30 14:27
推 GTRNO1: 看起來就是學店畢業+小公司的工程師心得感想 03/30 23:09
推 hidog: 上面幾樓貶低別人學經歷的做法還蠻糟糕的 03/31 07:05
推 pedestrianA: 這跟搜尋引擎不同東西 沒有誰代替誰 03/31 12:32
推 Apasiri: 有人被包養嗎 03/31 12:32
噓 darkMood: 目前不就是快速剪貼簿而已，一堆人一直吹屁啊 03/31 12:58
→ oopFoo: 現在的LLMs比較像"群體的智慧"。會是一個很好的另一個意見 03/31 17:40
→ oopFoo: 但太多的"幻想"，對不熟練的人，反而有害。 03/31 17:42
推 acenova: 國外論壇有看到在ML跟AI領域深耕多年的工程師，寫道目前 04/01 00:55
→ acenova: OpenAI釋出的版本還是弱化版本的，而且他也不曉得為什麼 04/01 00:55
推 litidi: 求包養...管飽就好XD 04/01 00:55
→ acenova: OpenAI要去弱化這塊，他說現在的AI已經完全可以做到解決 04/01 00:57
→ acenova: 問題這一段了，也許我們過段時間就能看到他說的那個版本 04/01 00:58
→ oopFoo: OpenAI是一直在持續訓練Model，東西會更強。LLMs有很多 04/01 11:17
→ oopFoo: 意想不到的功能，如有點邏輯，有點會算術。但這條路是有 04/01 11:19
→ oopFoo: 極限的。像Llama好像有特地訓練算術的部份，就表現比GPT3 04/01 11:23
推 Merzario: 阿姨!我不想努力了(求包養) 04/01 11:23
→ oopFoo: 好。但知識是無限的，現在這種訓練方式能達到AGI嗎？我是 04/01 11:25
→ oopFoo: 持保留態度。就像自駕碰到瓶頸一樣，LLMs需要更多的研究與 04/01 11:26
→ oopFoo: 發展。就目前而言LLMs是很有用的。但問錯方向，給垃圾答案 04/01 11:30
→ oopFoo: 是很大的問題與研究課題。 04/01 11:31