OpenAI推出了人工智慧的新標準：如何負責任地管理色情內容

在2024年5月，OpenAI公布了一份名為Model Spec的詳細指南，界定了現代人工智慧系統的運作原則。該文件為虛擬助手（包括ChatGPT）在與用戶互動時的行為奠定了基礎。特別值得關注的是公司在敏感問題上的創新方法：正式開始研究在符合年齡限制的情境下負責任地生成NSFW（不適合工作場所）內容的方法。

這一決策象徵著在人工智慧技術快速發展和大規模應用階段，管理策略的演變。

OpenAI在人工智慧行為管理方面的三大支柱

Model Spec的基礎建立在三個核心原則之上。首先，AI算法應提供有用的回答，符合開發者和最終用戶的明確指示。其次，這些系統必須造福人類，充分考慮正面影響與潛在風險。第三，模型的行為應反映OpenAI的企業價值觀，尊重不同法域內的社會規範和法律框架。

這些原則為基於AI技術的應用開發者提供了具體指導。

色情內容與AI：從禁止到受控使用

Model Spec中包含了對AI系統行為的詳細規範。其中包括遵守命令層級、遵循各國法律、保護著作權和個人隱私的要求。特別指出，系統不得預設提供NSFW內容。

然而，這正是OpenAI方法中的創新元素。公司提出了一個概念，允許企業和最終用戶“切換”AI模型生成內容的等級。其中一個最受討論的例子是對色情內容的管理。

根據OpenAI的官方聲明，該實驗室“正在研究在年齡限制範圍內，通過API和ChatGPT界面安全提供此類內容生成功能的可能性”。這意味著，成人用戶在符合當地法律的情況下，將能獲取此類內容，而未成年人則會自動受到保護，避免接觸此類材料。

預設優先事項：AI應如何思考與行動

文件還規定了AI助手在與用戶互動時應展現的標準行為。建議系統假設對話參與者具有良好意圖，積極提出澄清問題以更好理解任務，尊重用戶的個人界限，並在分析資訊時保持客觀。

此外，強調應避免煽動仇恨、不試圖強加自身立場，並在不確定答案時坦率表達不確定性。

當前實施狀況：從規劃到落實

值得注意的是，新的Model Spec目前尚未影響OpenAI已推出的產品，如GPT-4和DALL-E 3。這些系統將繼續依照現有的使用政策運行。公司產品經理Joan Jang表示，Model Spec是一份動態、持續更新的文件，並開放反饋。

OpenAI正積極徵求來自政府、權威機構及專業領域專家的建議，這些人士使用或研究公司的服務。然而，仍有未解之謎：哪些意見會被採納？誰來決定最終的修改清單？第二版文件何時發布？目前尚未公布相關資訊。

此舉彰顯OpenAI希望在管理AI系統方面樹立新標準，包括對敏感議題如色情內容的規範，並在事前充分考量倫理與法律層面。