Github Copilot的AI測試:混合編碼成功使我感到困惑
探索 AI 編碼工具的不一致性
令人困惑的是,所有基於同一基礎大型語言模型的 AI 工具,為何表現結果如此不同。例如,ChatGPT、Perplexity 和 GitHub Copilot 皆使用 OpenAI 的 GPT-4 模型。然而,我最近的測試顯示出顯著的性能差異:ChatGPT 和 Perplexity 的專業計劃表現出色,而 GitHub Copilot 的成功率僅為 50%。
我使用整合於 VS Code 環境中的 GitHub Copilot 進行了這些測試。我將在即將推出的文章中分享設置的詳細指南。現在,讓我們深入探討我所進行的測試細節。
如果你對我的測試方法和使用的提示語感到好奇,可以查看我關於評估 AI 聊天機器人編碼能力的詳細指南。
TL;DR: GitHub Copilot 在我進行的四項測試中通過了兩項。
測試 1:撰寫 WordPress 插件
這項測試完全令人失望。這是我的初步實驗,讓我不確定 GitHub Copilot 是否在編碼上存在問題,還是 VS Code 內的交互限制影響了其能力。
背景如下:我要求 AI 開發一個功能完整的 WordPress 插件,包含管理界面和操作邏輯。插件的任務是接受一組名稱列表,對其進行排序,並分離任何重複項以避免相鄰。
這項任務源自我妻子數位商品電子商務業務的實際需求,她管理一個活躍的 Facebook 社群。
在測試的十個 AI 模型中,五個完全通過了這項測試,三個部分通過,兩個(包括 Microsoft Copilot)完全失敗。儘管給予了相同的提示語,GitHub Copilot 僅生成了 PHP 代碼。雖然問題確實可以用 PHP 獨立解決,但 GitHub Copilot 試圖引用 JavaScript 卻未實際生成。

David Gewirtz/ZDNET 截圖 當我嘗試從 JavaScript 文件中提示 GitHub Copilot 完成任務時,它居然回應了更多 PHP 代碼,仍然引用了一個不存在的 JavaScript 文件。

David Gewirtz/ZDNET 截圖 測試 2:重寫字串函數
這項測試相對簡單:我提供了一個用於驗證美元和美分的函數,但僅檢查整數美元。挑戰在於讓 AI 修正該函數。
GitHub Copilot 確實修改了代碼,但結果有問題。它假設任何輸入字串都是有效的,若字串為空則會導致錯誤。此外,更新後的正則表達式無法處理各種邊緣情況,例如 "3."、".3" 或 "00.30" 等輸入。對於一個用於驗證貨幣的函數來說,這種疏忽是不可接受的,GitHub Copilot 再次失敗。
測試 3:尋找惱人的錯誤
在這項測試中,GitHub Copilot 表現出色。這項測試基於我遇到的真實編碼挑戰,錯誤訊息並未直接指向實際問題。這有點像編碼謎題,需要深入理解 WordPress API 調用才能解決。
Microsoft Copilot、Gemini 和 Meta Code Llama 在這項測試中表現不佳,但 GitHub Copilot 完美解決,展示了其處理複雜真實世界問題的能力。
測試 4:撰寫腳本
GitHub Copilot 在這項測試中也成功了,而 Microsoft Copilot 則表現不佳。該任務涉及創建一個需要整合 AppleScript、Chrome 對象模型和 Mac 專用工具 Keyboard Maestro 的腳本。
要通過測試,AI 需要識別並處理這三個環境的細微差別,GitHub Copilot 做到了這一點。
最終想法
看到使用先進 GPT-4 模型的 GitHub Copilot 在一半的測試中失敗,令人失望。鑑於 GitHub 作為領先的源碼管理平台的地位,人們會期望其 AI 編碼支持更為可靠。
然而,AI 世界不斷演進,我樂觀地認為 GitHub Copilot 的表現將隨時間改善。我們將在幾個月後重新審視其進展。
你是否依賴 AI 進行編碼協助?你最常用的 AI 工具是哪個?你有沒有試過 GitHub Copilot?請在下方評論中分享你的經驗。
在社交媒體上關注我的每日項目進展。別忘了訂閱我的每週電子報,並在 Twitter/X 上關注我 @DavidGewirtz,在 Facebook 上關注 Facebook.com/DavidGewirtz,在 Instagram 上關注 Instagram.com/DavidGewirtz,在 Bluesky 上關注 @DavidGewirtz.com,以及在 YouTube 上關注 YouTube.com/DavidGewirtzTV。
相關文章
如何改善「核心網路指標」以提升 SEO 排名
透過 AI 驅動的字幕功能,徹底改變您的影片剪輯工作流程目錄:簡介自動轉錄的關鍵優勢確保準確性並優化輸出結果善用字幕中的搜尋功能無縫匯入現有檔案Transcript.com 介紹透過 Transcript.com 輕鬆編輯靈活的匯出格式全面的語言支援結論簡介Transcripted 是一款運用人工智慧生成自動轉錄文字的 Premiere 外掛程式。本指南將深入探討其核心功能,包括高準確度、進階搜尋
DingTalk 運用阿里AI的 MuleRun 重構架構,邁入全代理時代
丁談新任執行長暨悟空事業群負責人陳宇森,於今日下午發布的內部備忘錄中,揭露了一項重大的組織重整計畫。透過成立「核心平台事業部」並全面整合 AI 代理團隊,丁談正加速推動其企業協作生態系統的智慧轉型。此次重組的核心在於將 AI 技術深度整合至核心業務運作中。DingTalk 已正式將「悟空」與「MuleRun」團隊合併,組成統一的「悟空」團隊,現由前 MuleRun 首席技術長舒俊良領導。 Mule
如何改善「核心網站關鍵指標」以提升 SEO 排名
家樂福如何運用生成式人工智慧轉型零售業引言海倫·拉博姆:從法律界到電商領導者家樂福:全球零售巨擘家樂福的數位轉型家樂福的生成式人工智慧策略家樂福生成式人工智慧的實際應用案例研究 1:Opla——重新定義客戶支援案例研究 2:Marketing Studio——以 AI 驅動的行銷活動創作案例研究 3:自動化產品內容豐富化挑戰與限制未來展望 優點展望與擴展策略結論作為全球最大的零售商之一,家樂福已將
相關專題推薦
評論 (41)
0/500
GitHub Copilotのテスト結果、正直謎すぎますね。同じGPT-4ベースなのに、ツールによって精度がこんなに違うのは不思議です。ChatGPTやPerplexityとはまた別の挙動を示すので、使い分けが重要になりそうです。AIの限界を実感しました🤔
Honestly, this doesn't surprise me. Even with the same underlying model, the way each tool fine-tunes prompts and handles context makes a huge difference. Copilot's mixed results probably come from its integration with IDE specifics. Still, it's baffling why the same model can give such inconsistent outputs for similar tasks. 🤔
Ich hab's auch ausprobiert und finde es echt seltsam, dass die Ergebnisse so unterschiedlich sind, obwohl die Basis ähnlich ist. Manchmal schreibt Copilot super Code, manchmal totalen Unsinn. Vielleicht liegt's an der Integration in die IDE? 🤔 Auf jeden Fall muss da noch viel verbessert werden, bevor ich mich voll darauf verlassen kann.
Интересно, почему ИИ-инструменты на одной базовой модели GPT-4 работают так по-разному? GitHub Copilot иногда генерирует код, который выглядит логично, но потом выдает полную ерунду 😅 Может, дело в тонкой настройке или контексте? Это напоминает мне капризного коллегу-программиста, который то гений, то беспомощен.
이 기사 읽어보니 AI 코딩 도구의 편차가 정말 신기하네요. 같은 기술인데 결과가 이렇게 다를 수 있다니... 개발자로 일하면서 Copilot이 가끔 완벽한 코드를 써주다가도 갑자기 엉뚱한 걸 제안해서 당황했던 적이 많아요. 🤔 앞으로 AI 도구들이 더 안정화되길 바랍니다!
探索 AI 編碼工具的不一致性
令人困惑的是,所有基於同一基礎大型語言模型的 AI 工具,為何表現結果如此不同。例如,ChatGPT、Perplexity 和 GitHub Copilot 皆使用 OpenAI 的 GPT-4 模型。然而,我最近的測試顯示出顯著的性能差異:ChatGPT 和 Perplexity 的專業計劃表現出色,而 GitHub Copilot 的成功率僅為 50%。
我使用整合於 VS Code 環境中的 GitHub Copilot 進行了這些測試。我將在即將推出的文章中分享設置的詳細指南。現在,讓我們深入探討我所進行的測試細節。
如果你對我的測試方法和使用的提示語感到好奇,可以查看我關於評估 AI 聊天機器人編碼能力的詳細指南。
TL;DR: GitHub Copilot 在我進行的四項測試中通過了兩項。
測試 1:撰寫 WordPress 插件
這項測試完全令人失望。這是我的初步實驗,讓我不確定 GitHub Copilot 是否在編碼上存在問題,還是 VS Code 內的交互限制影響了其能力。
背景如下:我要求 AI 開發一個功能完整的 WordPress 插件,包含管理界面和操作邏輯。插件的任務是接受一組名稱列表,對其進行排序,並分離任何重複項以避免相鄰。
這項任務源自我妻子數位商品電子商務業務的實際需求,她管理一個活躍的 Facebook 社群。
在測試的十個 AI 模型中,五個完全通過了這項測試,三個部分通過,兩個(包括 Microsoft Copilot)完全失敗。儘管給予了相同的提示語,GitHub Copilot 僅生成了 PHP 代碼。雖然問題確實可以用 PHP 獨立解決,但 GitHub Copilot 試圖引用 JavaScript 卻未實際生成。
當我嘗試從 JavaScript 文件中提示 GitHub Copilot 完成任務時,它居然回應了更多 PHP 代碼,仍然引用了一個不存在的 JavaScript 文件。
測試 2:重寫字串函數
這項測試相對簡單:我提供了一個用於驗證美元和美分的函數,但僅檢查整數美元。挑戰在於讓 AI 修正該函數。
GitHub Copilot 確實修改了代碼,但結果有問題。它假設任何輸入字串都是有效的,若字串為空則會導致錯誤。此外,更新後的正則表達式無法處理各種邊緣情況,例如 "3."、".3" 或 "00.30" 等輸入。對於一個用於驗證貨幣的函數來說,這種疏忽是不可接受的,GitHub Copilot 再次失敗。
測試 3:尋找惱人的錯誤
在這項測試中,GitHub Copilot 表現出色。這項測試基於我遇到的真實編碼挑戰,錯誤訊息並未直接指向實際問題。這有點像編碼謎題,需要深入理解 WordPress API 調用才能解決。
Microsoft Copilot、Gemini 和 Meta Code Llama 在這項測試中表現不佳,但 GitHub Copilot 完美解決,展示了其處理複雜真實世界問題的能力。
測試 4:撰寫腳本
GitHub Copilot 在這項測試中也成功了,而 Microsoft Copilot 則表現不佳。該任務涉及創建一個需要整合 AppleScript、Chrome 對象模型和 Mac 專用工具 Keyboard Maestro 的腳本。
要通過測試,AI 需要識別並處理這三個環境的細微差別,GitHub Copilot 做到了這一點。
最終想法
看到使用先進 GPT-4 模型的 GitHub Copilot 在一半的測試中失敗,令人失望。鑑於 GitHub 作為領先的源碼管理平台的地位,人們會期望其 AI 編碼支持更為可靠。
然而,AI 世界不斷演進,我樂觀地認為 GitHub Copilot 的表現將隨時間改善。我們將在幾個月後重新審視其進展。
你是否依賴 AI 進行編碼協助?你最常用的 AI 工具是哪個?你有沒有試過 GitHub Copilot?請在下方評論中分享你的經驗。
在社交媒體上關注我的每日項目進展。別忘了訂閱我的每週電子報,並在 Twitter/X 上關注我 @DavidGewirtz,在 Facebook 上關注 Facebook.com/DavidGewirtz,在 Instagram 上關注 Instagram.com/DavidGewirtz,在 Bluesky 上關注 @DavidGewirtz.com,以及在 YouTube 上關注 YouTube.com/DavidGewirtzTV。
如何改善「核心網路指標」以提升 SEO 排名
透過 AI 驅動的字幕功能,徹底改變您的影片剪輯工作流程目錄:簡介自動轉錄的關鍵優勢確保準確性並優化輸出結果善用字幕中的搜尋功能無縫匯入現有檔案Transcript.com 介紹透過 Transcript.com 輕鬆編輯靈活的匯出格式全面的語言支援結論簡介Transcripted 是一款運用人工智慧生成自動轉錄文字的 Premiere 外掛程式。本指南將深入探討其核心功能,包括高準確度、進階搜尋
DingTalk 運用阿里AI的 MuleRun 重構架構,邁入全代理時代
丁談新任執行長暨悟空事業群負責人陳宇森,於今日下午發布的內部備忘錄中,揭露了一項重大的組織重整計畫。透過成立「核心平台事業部」並全面整合 AI 代理團隊,丁談正加速推動其企業協作生態系統的智慧轉型。此次重組的核心在於將 AI 技術深度整合至核心業務運作中。DingTalk 已正式將「悟空」與「MuleRun」團隊合併,組成統一的「悟空」團隊,現由前 MuleRun 首席技術長舒俊良領導。 Mule
如何改善「核心網站關鍵指標」以提升 SEO 排名
家樂福如何運用生成式人工智慧轉型零售業引言海倫·拉博姆:從法律界到電商領導者家樂福:全球零售巨擘家樂福的數位轉型家樂福的生成式人工智慧策略家樂福生成式人工智慧的實際應用案例研究 1:Opla——重新定義客戶支援案例研究 2:Marketing Studio——以 AI 驅動的行銷活動創作案例研究 3:自動化產品內容豐富化挑戰與限制未來展望 優點展望與擴展策略結論作為全球最大的零售商之一,家樂福已將
GitHub Copilotのテスト結果、正直謎すぎますね。同じGPT-4ベースなのに、ツールによって精度がこんなに違うのは不思議です。ChatGPTやPerplexityとはまた別の挙動を示すので、使い分けが重要になりそうです。AIの限界を実感しました🤔
Honestly, this doesn't surprise me. Even with the same underlying model, the way each tool fine-tunes prompts and handles context makes a huge difference. Copilot's mixed results probably come from its integration with IDE specifics. Still, it's baffling why the same model can give such inconsistent outputs for similar tasks. 🤔
Ich hab's auch ausprobiert und finde es echt seltsam, dass die Ergebnisse so unterschiedlich sind, obwohl die Basis ähnlich ist. Manchmal schreibt Copilot super Code, manchmal totalen Unsinn. Vielleicht liegt's an der Integration in die IDE? 🤔 Auf jeden Fall muss da noch viel verbessert werden, bevor ich mich voll darauf verlassen kann.
Интересно, почему ИИ-инструменты на одной базовой модели GPT-4 работают так по-разному? GitHub Copilot иногда генерирует код, который выглядит логично, но потом выдает полную ерунду 😅 Может, дело в тонкой настройке или контексте? Это напоминает мне капризного коллегу-программиста, который то гений, то беспомощен.
이 기사 읽어보니 AI 코딩 도구의 편차가 정말 신기하네요. 같은 기술인데 결과가 이렇게 다를 수 있다니... 개발자로 일하면서 Copilot이 가끔 완벽한 코드를 써주다가도 갑자기 엉뚱한 걸 제안해서 당황했던 적이 많아요. 🤔 앞으로 AI 도구들이 더 안정화되길 바랍니다!





首頁






