ChatGPT 在全球掀起「生成式人工智能」（generative AI）風潮，就連中國企業也要在內部測試不完美的情況下搶先發佈旗下 AI。不過中國強調互聯網不是法外之地，自然需要好好監管產業發展，讓 AI 也符合中國的社會主義核心價值觀。
百度早前推出類似 ChatGPT 的「文心一言」聊天機械人，每當問及一些「敏感話題」，「文心」就可能會回答：「作為一個人工智能大規模語言模型，我還沒有學會如何回答這個問題，你可以問我一些其他問題，我會盡力幫助你解決這些問題。」有時甚至直接建議：「讓我們換個話題，重新開始。」作為陽光司法之地，中國自然會為不同事物設立監督管理機制。4 月 11 日，國家互聯網信息辦公室就提出「為促進生成式人工智能技術健康發展和規範應用」，起草「生成式人工智能服務管理辦法（徵求意見稿）」。
草案部分內容強調，「用生成式人工智能生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容」。「經濟學人」的報道稱，草案內容解釋了中國的憂慮，認為生成式人工智能的出現，開闢了一條令信息在其控制範圍之外傳播的廣闊新途徑。
中國網絡審查制度「防火長城」自 2000 年起已出現，將來自外國網絡的「有害」內容拒之門外，在牆內宣揚正能量、建設網絡陣地，「成就」有目共睹。美國智庫卡內基國際和平基金會（CEIP）研究員 Matt Sheehan 認為，面對生成人工智能，中國政府已再次加強其官僚組織力量、增加監管工具，例如強制安全審查、要求公司向國家註冊其算法等。問題也許是，監管審查會否扼殺創新？報道認為，即使互聯網審查嚴格，像 TikTok 母公司字節跳動等依然出現，可見審查未有扼殺中國的創新。而談到生成式人工智能，目前難以看清中國公司如何能遵守政府規定，同時創造出像 ChatGPT 這樣變化幅度大的類人 AI。
網信辦強調，此類 AI 生成的信息應當「真實準確」，保證數據「客觀」。不過黨對這些原則從來都自成一套標準，報道擔心，如嚴格執行其規則，只會阻礙中國生成式人工智能的發展。草案亦留有餘地，只要求「對於運行中發現、用戶舉報的不符合本辦法要求的生成內容，除採取內容過濾等措施外，應在 3 個月內通過模型優化訓練等方式防止再次生成」。不過「經濟學人」認為，網信辦提出的草案反映監管有「彈性」，令當局可根據自己的意願收緊或放鬆限制，一旦某日領導不滿意生成式人工智能的發展方向，就有能力重整整個行業。
中國政府要求「到 2025 年人工智能基礎理論實現重大突破」、「到 2030 年人工智能理論、技術與應用總體達到世界領先水平，成為世界主要人工智能創新中心」。報道認為要達成這些目標，進度喜憂參半，因為中國在投資及創新方面仍落後於美國，潛在的外國資本，也會因美國對中國涉及 AI 範疇的制裁而無法進入，更遑論中國尖端半導體入口受限，皆可能阻礙中國 AI 行業發展。但就監管 AI、使其能為黨所用而言，則也許能成功。畢竟當年美國前總統克林頓也曾預言，資本主義和互聯網結合，可能會使中國自由化、無法限制網絡；如今對象換成 AI，自然也不能再天真以為中國無法做到同樣的事情。
