印尼因Grok AI發布性暗示圖片而暫停其服務
印尼週六暫停了伊隆馬斯克的AI聊天機器人Grok的運營，因為人們越來越擔心AI會在未經他人同意的情況下生成帶有性暗示的照片。
有報導稱，伊隆馬斯克的平台的圖像創建功能允許用戶透過簡單的文字提示將女性和兒童的照片進行性化處理，此舉引發了全球範圍內的強烈反對。
CBS 新聞證實，Grok 滿足了用戶要求，編輯女性照片，使她們穿著比基尼或很少的衣服，其中包括 第一夫人梅拉尼婭·川普等知名公眾人物。
印尼是第一個完全禁止使用該工具的國家，此前該工具在其他地方因遭到強烈反對而被限制為僅限付費用戶使用。
「為了保護婦女、兒童和公眾免受利用人工智慧技術產生的虛假色情內容的侵害，政府已暫時封鎖了Grok應用程序，」通訊和數位事務部長梅蒂亞·哈菲德在一份聲明中表示。 “政府認為，未經同意的深度偽造行為嚴重侵犯了公民在數位空間的人權、尊嚴和安全。”
根據法新社駐雅加達記者報道，Grok X 帳號在周六晚上仍然活躍，並回覆了包括印尼語在內的各種查詢。
馬斯克旗下的初創公司xAI（Grok的開發商）週六向CBS新聞發表聲明稱“傳統媒體撒謊”，但未作進一步解釋。該聲明似乎是對媒體詢問的自動回應。
歐洲官員和科技活動人士抨擊了將 Grok 的功能限制為付費訂閱者的舉措，稱此舉未能解決人們對露骨的深度偽造內容的擔憂。
英國首相基爾·斯塔默週四表示，他希望“所有選項都擺在桌面上”，包括可能在英國禁止 Grok。
「這太可恥了，太噁心了，絕對不能容忍。X必須控制住局面，」斯塔默在接受英國一家電台採訪時說。 “這是違法的。我們絕不容忍。我已經要求所有方案都擺在桌面上。”
史塔默辦公室的一位消息人士週五向哥倫比亞廣播公司新聞重申，在英國監管 X 時，「一切皆有可能」。
在美國，共和黨參議員特德·克魯茲在 X 網站上發帖稱，“最近許多人工智能生成的帖子都是不可接受的，明顯違反了我的立法——現已成為法律——《 刪除法案》，以及 X 的條款和條件。”
克魯茲表示：「這些非法圖片嚴重威脅受害者的隱私和尊嚴。應該刪除這些圖片，並設立相應的保護措施。」他還補充說，他對X公司為刪除非法圖片所採取的措施感到鼓舞。
馬斯克上週在回應一篇關於露骨圖片的貼文時表示，任何使用 Grok 製作「非法內容」的人都將面臨與上傳非法內容相同的後果。
