報導指出，這起資安事件的關鍵在於ChatGPT過去開放使用者「建立超連結分享對話」，若未關閉索引權限，內容就可能被搜尋引擎收錄。專家更警告，這不只是幾百筆資料外洩這麼簡單，若使用「時光機」網頁存檔工具還能找到超過11萬筆歷史對話紀錄。
這些被公開的對話不乏驚人內容，包括有人討論如何針對哈瑪斯發動網路攻擊，有疑似醫師請AI模擬癌症用藥建議，甚至有使用者嘗試繞過AI防線，引導其產出未成年色情內容，儘管AI初步拒絕，最終仍被突破防線。
面對爭議，ChatGPT開發商OpenAI於7月31日火速關閉「分享至搜尋引擎」功能。資安長史塔基坦承，「這項功能讓人無意中分享了原本不打算公開的內容，因此決定將其下架。」OpenAI目前正與各大搜尋引擎合作，要求下架相關頁面。
OpenAI執行長奧特曼先前也曾警告，與ChatGPT的對話並不享有如律師、醫師等的法律保密權，強調「就連我自己，有時也會猶豫要不要輸入某些內容，因為我不知道最後誰會看到」。
