慎重！不要拿 ChatGPT 干這 6 件事

譯者 | 明明如月出品 | CSDN（ID：CSDNnews）

ChatGPT 極其強大，對我們與計算機的互動方式產(chǎn)生了變革性影響。然而，像任何工具一樣，理解其限制并正確使用它非常重要。以下是你不應(yīng)該用 ChatGPT 去做的 6 事情。

ChatGPT 的局限在我們深入具體內(nèi)容之前，理解 ChatGPT 的局限是至關(guān)重要的。首先，它不能訪問實時或個人數(shù)據(jù)，除非在對話中明確提供，或者你已啟用 ChatGPT 的聯(lián)網(wǎng)插件。在未啟用瀏覽功能（這需要 ChatGPT Plus）的情況下，它根據(jù)在訓(xùn)練過程中學(xué)習(xí)到的模式和信息生成回應(yīng)，這包括在其訓(xùn)練截止日期 2021 年 9 月之前的大量互聯(lián)網(wǎng)文本。但是，它并不以人類的感知“知道”任何事情，或者像人類那樣理解上下文。雖然 ChatGPT 經(jīng)常能生成令人印象深刻的連貫和相關(guān)的回應(yīng)，但它并非無懈可擊。它可能會產(chǎn)生錯誤或無意義的答案。其熟練程度在很大程度上取決于給出的提示的質(zhì)量和清晰度。

不要在 ChatGPT 中使用敏感信息
由于其設(shè)計和工作方式，ChatGPT 不是分享或處理敏感信息的安全渠道。這包括財務(wù)詳情，密碼，個人身份信息或保密數(shù)據(jù)。最近，OpenAI 添加了一種新的“隱身”模式，以防止你的聊天記錄被存儲或用于未來的訓(xùn)練，但只有你能決定是否信任這個承諾。一些公司，如三星，已經(jīng)因為數(shù)據(jù)泄露禁止員工在工作中使用 ChatGPT。

不要用它來獲取法律或醫(yī)療建議
ChatGPT 沒有被認(rèn)證，不能提供準(zhǔn)確的法律或醫(yī)療建議。它的回應(yīng)是基于它在訓(xùn)練數(shù)據(jù)中可用的模式和信息。它無法理解個別法律或醫(yī)療案例的細(xì)微差別和具體情況。雖然它可能提供關(guān)于法律或醫(yī)療話題的一般信息，但你應(yīng)該始終咨詢有資質(zhì)的專業(yè)人士以獲得這樣的建議。GPT 是一項有前途的技術(shù)，無疑有潛力應(yīng)用到合法的醫(yī)療診斷，但這將以專業(yè)化，經(jīng)過認(rèn)證的醫(yī)療 AI 系統(tǒng)的形式出現(xiàn)。它并非公眾可用的通用 ChatGPT 產(chǎn)品。

不要用它來替你做決定
ChatGPT 可以提供信息，提出選項，甚至基于提示模擬決策過程。但是，必須記住，AI 不理解其輸出的真實世界影響。它無法考慮到?jīng)Q策中涉及的所有人類方面，如情緒，道德或個人價值觀。因此，雖然它可以是頭腦風(fēng)暴或探索想法的有用工具，但人類應(yīng)始終做出最后的決定。對于 ChatGPT 3.5，這一點尤為重要，因為它是 ChatGPT 默認(rèn)模型，也是目前唯一對免費用戶開放的模型。GPT 3.5 的推理能力明顯低于 GPT 4！

不要把它當(dāng)作可信賴的來源
雖然 ChatGPT 受到大量信息的訓(xùn)練并經(jīng)常提供準(zhǔn)確的回應(yīng)，但它并不是權(quán)威的真實來源。它無法驗證信息或?qū)崟r檢查事實。因此，從 ChatGPT 獲取的任何信息都應(yīng)與可信賴和權(quán)威的來源進(jìn)行交叉驗證，尤其是關(guān)于新聞，科學(xué)事實或歷史事件等重要事項。ChatGPT 容易出現(xiàn)“幻覺” 給出一些聽起來真實，但完全捏造的事實。大家要特別小心！

不要把 ChatGPT 當(dāng)作心理咨詢師
雖然像 ChatGPT 這樣的 AI 技術(shù)可以模擬富有同情心的回應(yīng)并提供一些普遍性的建議，但它們不能替代專業(yè)的心理健康支持。它們無法深入理解和處理人類的情緒。AI 不能替代人類心理咨詢師所固有的微妙理解，情緒共鳴和道德準(zhǔn)則。對于任何嚴(yán)重的情緒或心理問題，始終尋求獲得執(zhí)照的心理健康專業(yè)人士的幫助。

不要使用 ChatGPT 來做數(shù)學(xué)！乍一看，讓像 ChatGPT 這樣的 AI 幫助你做數(shù)學(xué)作業(yè)似乎是一種自然的應(yīng)用。然而，需要注意的是，ChatGPT 的強項是語言，而不是數(shù)學(xué)。盡管其訓(xùn)練數(shù)據(jù)龐大，但其準(zhǔn)確執(zhí)行復(fù)雜的數(shù)學(xué)運算或解決復(fù)雜問題的能力是有限的。雖然 ChatGPT 是一個令人印象深刻的工具，有廣泛的應(yīng)用范圍，但理解其局限性至關(guān)重要。正確地使用這個工具將有助于發(fā)揮它作為輔助工具的優(yōu)勢，而不是讓它成為誤導(dǎo)或可能有害的信息來源。