自從OpenAI揭開了聊天機械人ChatGPT的面紗，社交媒體上的用戶就一直忙著嘗試用這項技術做些無傷大雅的趣事。比如，他們要求這個機械人製作鶏尾酒配方、作曲，還有撰寫《吉利根島》（Gilligan’s Island）的劇本，講述島上漂流者應對新冠病毒的故事。ChatGPT沒有掉進過去聊天機械人遇到的一些陷阱，比如種族主義或仇恨言論，所以人們對新版聊天機械人的興奮之情溢於言表。

ChatGPT能够給出流暢、權威的答案，並以連貫的綫索回答有關追問，這一切都證明了人工智能的巨大進步。但它也帶來了一系列問題，即讀者如何能够區分機械人輸出的內容和貨真價實的人類書面語言。因爲ChatGPT給出的文本可以達到喜劇演員科爾伯特（Stephen Colbert）說的某種程度的「真實」（truthiness）——哪怕不是基於事實，但看起來和感覺上是真實的。

ChatGPT於2022年11月30日發布。到了12月5日，計算機程序員問答網站Stack Overflow暫時禁用ChatGPT生成的答案，審查員稱他們看到了數千個這樣的帖子，裡面經常包含不準確的內容，對該網站造成了「實質傷害」。而且，即使答案是準確的，機械人生成的關於歷史或科學的材料也足以引發爭論：人們是否會用它在考試、論文或求職申請中作弊？不管事實是否如此，ChatGPT的答案都是對人類語言的相似回應，是真實語言的複製品，這些特點進一步說明，OpenAI可能不得不想辦法來標注這些內容是由軟件生成的，而非由人類編寫。