ChatGPT 迅速“风靡”全球，无疑成为了人工智能领域备受瞩目的“明星产品”，然而随着 ChatGPT 应用越来越广泛，陆续爆出被用于学术造假、制作黑客武器以及泄露用户敏感聊天信息等一系列负面新闻。至此，社会开始重新审视类似 ChatGPT 的人工智能技术。

相较于以往服务于工业领域的智能机器人，仅能代替人类从事繁杂、机械、危险的体力劳动，类似 ChatGPT 人工智能技术具有更强的可对话性，灵活性以及不俗的“独立思考能力” ，重新塑造了社会对人工智能领域的认知。目前，科技巨头发布的人工智能产品已经融入文字工作、编程、绘画等各类型的产业中，引起了新一轮科技变革。

无可争议，一旦类似 Chat GPT 人工智能技术发展完备，便能够很好服务社会，造福人类。与此同时，Chat GPT 人工智能技术也是一把“双刃剑”，其安全问题、合规问题以及对社会人员工作分配的冲击，受到许多行业领军人物以及各国的重视。

多位知名人士呼吁思考类 似ChatGPT人工智能的研发

当全社会沉浸于类似 ChatGPT 人工智能技术将掀起第四次工业革命的“幻想”中，许多科技界大佬提出相左的意见，甚至对类 ChatGPT人工智能技术的快速发展表现出隐隐担忧。

巴菲特对人工智能技术是否有益社会表示存疑

近日，投资行业教父级人物巴菲特接受媒体采访时谈到自身对 ChatGPT 类人工智能迅速发展的想法。巴菲特向记者表示，毋庸置疑人工智能技术在技术能力方面确实有了令人难以置信的进步，但基于对整个社会的影响来看，目前尚没有大规模的实验结果来支撑人工智能发展对人类有益这一观点，因此对于人工智能的发展应该谨慎、理智。

巴菲特的担忧不无道理，ChatGPT 迅速火爆掩盖了其背后的安全、合规等问题，人类对这类技术产生的直面感受仅仅是先进、高效，对其潜在威胁了解并不深刻。

从媒体目前披露的信息来看，已经有证据表明部分黑客正在利用类似 ChatGPT 的人工智能产品来编写恶意代码，钓鱼攻击邮件，更不用说 ChatGPT 自身的安全问题。（此前，三星曾因员工在 ChatGPT 上训练数据，导致信息泄露；ChatGPT 用户聊天信息列表泄露等）。

马斯克联名呼吁暂停更强大人工智能系统的训练

在巴菲特表达出对人工智能技术发展担忧前，特斯拉创始人马斯克曾联合上千名科技人士发表公开信呼吁暂停训练比 GPT-4 更强大的人工智能系统。

3 月 29 日，马斯克付出行动，在数千名业界和学界知名人士联署公开信签上姓名，呼吁所有人工智能实验室至少暂停 6 个月训练比 GPT-4 更强大的 人工智能系统，以便制定和实施安全协议。

对于这一举动，马斯克表示考虑到 ChatGPT 展现的强大技术能力，需要对其安全问题进行监管。此外，埃隆·马斯克一再强调人工智能具备强大能力的同时也伴随巨大的风险，无疑是一柄双刃剑，甚至悲观的认为人工智能技术是未来人类文明面临的最大风险之一。

值得一提的是，不同于巴菲特，马斯克等对于人工智能技术发展持“消极”态度，前世界首富比尔盖茨对此相对乐观，并表示暂停开发并不能彻底解决问题，搞清楚采用哪些方式，合理利用人工智能技术的发展才是最优解。

各国认真审视类 ChatGPT 人工智能技术的发展

许多电影、电视剧、小说中曾畅想人工智能机器人服务社会，造福人类，也对人工智能的安全性、可靠性、忠诚度、是否取代人类统治世界进行过深度探讨，类似 ChatGPT 的产品正在将这一构想慢慢推向现实，当人类开始真正直面人工智能发展这一“双刃剑”时，需要认真考虑其安全、合规等问题。

意大利打响 ChatGPT 的安全问题“第一枪”。

十几天前，意大利政府以 OpenAI 公司非法收集大量意大利用户个人数据，未设立检查 ChatGPT 用户年龄的机制防止未成年人接触非法材料为由，封禁了Chat GPT 在意大利的运营。经过几天缓冲，意大利数据保护机构稍微作出让步，向 OpenAI 提出了一系列要求，如果能够满足的话，意大利便允许 ChatGPT 继续在该国运营 。

至此，意大利打响了 ChatGPT 安全合规问题的“ 第一枪”。

意大利对 ChatGPT 采取的安全措施，引起了欧洲国家注意，目前，欧洲诸国正在研究是否需要对类似 ChatGPT 人工智能技术采取严格的限制措施。其中，西班牙数据保护机构已经要求欧盟隐私监管机构评估围绕 ChatGPT 使用带来的隐私合规问题。

紧接着，德国监管机构也宣布禁止使用 ChatGPT，法国、爱尔兰、西班牙等欧洲国家也开始考虑对 AI 聊天机器人采取更严格的监管。

美国紧跟欧盟，拟对人工智能进行监管

一石激起千层浪，意大利加强对 ChatGPT 的监管力度，不仅仅激起了欧盟诸国对于人工智能的担忧，同样影响到大洋彼岸的美国。

美国当地时间 4 月11日，《华尔街日报》突然爆出基于由于美国社会对于 ChatGPT 等人工智能技术可能带来的安全威胁，拜登政府已经开始研究是否需要对这类工具进行限制。

紧随其后，美国商务部 4 月 11 日就相关的问责措施正式公开征求意见（征求意见的期限为 60 天，其中包括具有潜在风险的新型人工智能模型在发布前是否应该进行核准认证程序）此举被视作美国对人工智能技术实行潜在监管的第一步。

对于如此急迫设置规则，规范类似 ChatGPT 人工智能技术的发展，美国商务部下属机构国家电信与信息管理局局长艾伦·戴维森指出，鉴于人工智能技术仅仅是初始阶段就已如此“先进”，政府需要考虑潜在犯罪分子利用该技术进行犯罪活动，因此不得不制定一些必要界限。

我国政府发布关于人工智能领域的管理办法

不仅仅是美国，我国也开始收紧人能智能领域研发。4 月 11 日，国家网信办以促进生成式人工智能技术健康发展和规范应用为由，发布了《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法》）。据悉，《管理办法》共计二十一条，其中“生成式人工智能”包括基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

《管理办法》对人工智能技术应用产生的信息责任划分作出约束，明确指出利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

此外，对于人工智能产品制造商也提出了要求，《管理办法》提出产品推向市场前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

社会层面谈及类似 ChatGPT 人工智能产品时，对厂商训练人工智产品所用到的数据比较关心，《管理办法》中也着重提到这一点，明确指出对于用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：

（一）符合《中华人民共和国网络安全法》等法律法规的要求；

（二）不含有侵犯知识产权的内容；

（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；

（四）能够保证数据的真实性、准确性、客观性、多样性；

（五）国家网信部门关于生成式人工智能服务的其他监管要求。

最后，《管理办法》强调对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在 3 个月内通过模型优化训练等方式防止再次生成。

目前，经历大量训练迭代后，类似 ChatGPT 的人工智能技术发展迅速，相反，各国现有法律体系对于类似 ChatGPT 的人工智能技术的监管显然不够完备，因此制定法规规范人工智能技术的发展成为各国首要解决的问题。