于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。南都、N视频记者注意到，在医疗、、内容策划等多领域，都有生成式AI的应用场景。中国科学院大学人工智能学院教授、亚太人工智能学会执行主席雷渠江认为，未来，生成式AI在医疗保健、生命科学、、娱乐、计算机工程等垂直领域都将产生巨大影响。“这项技术目前主要以文字为主，但它的发展势不可挡，只会进一步增长。”

　　根据Gartner、量子位智库预测，AIGC渗透率有望在2025年提升至10%，市场规模或将于2030年逾万亿人民币。越来越多企业布局该赛道。除了包括百度、阿里、腾讯、华为在内的各大科技巨头推出了AI大模型，还有海天瑞声、卓创资讯、拓尔思等企业提供数据源及数据处理服务。

　　在业内专家看来，生成式AI技术既有优势，也有隐患。在商业化布局、行业生产力提升的同时，新技术发展过程中伴随的合规性、版权、数据隐私等风险问题也亟待政府监管和行业约束共同规范。

　　2022年11月30日，人工智能研究机构OpenAI推出了生成式AI对话大模型ChatGPT.对话式聊天机器人并非新事物，早在2014年微软便推出了小冰，不同之处在于体验感。ChatGPT几乎可以像人类一样对话，甚至能完成写代码、做题、写文章、撰写视频脚本等创造性工作。

　　ChatGPT推出后便火爆全球。据外媒报道，上线天，ChatGPT的用户量迅速达到百万，服务器一度被挤爆。1月，其月活用户已突破1亿，成为史上用户增长速度最快的必威电竞消费级应用程序。

　　生成式AI应用方兴未艾。中国科学院大学人工智能学院教授、亚太人工智能学会执行主席雷渠江向南都记者介绍，随着技术的逐步升级，生成式AI在多领域落地，完成新的技术转化，如营销、文案创作、、医疗保健、设计和内容创作、内容与品牌策划、搜索引擎优化和页面简介、各种类型的分析等。“在这些方面，生成式AI在现有的技术基础上发挥强大的作用。”

　　北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括告诉南都记者，近期引发热议的ChatGPT、AI换脸等都属于生成式AI的应用场景。“这些应用场景对于生成式AI的能力提升、算法更新改进起到非常快速的推动作用。”

　　他还介绍，生成式AI目前是人工智能发展领域最为突出的一个方向，同时对于社会生态、经济模式的影响也最为深刻。从现实来讲，对于智能办公、智能制造产生了直接推动；从未来潜力来讲，可能对更广泛的乃至所有行业都有明显的推动作用。

　　谈及生成式AI的发展，雷渠江也提到，目前，生成式AI还处于初步发展阶段。“生成式AI超越了典型的自然语言处理任务，如语言翻译、文本摘要必威电竞和本文生成，它在更广泛的领域取得了突破性进展，包括搜索引擎的新架构，解释复杂的算法，创建个性化的，帮助从零开始构建应用程序，解释科学概念等。”他认为，生成式AI未来在垂直领域都将产生巨大影响，如医疗保健、生命科学、、娱乐、计算机工程等。

　　“这项技术目前主要以文字为主，但它的发展势不可挡，只会进一步增长。”雷渠江认为，随着落地场景的不断增多和完善，未来会更关注个性化服务在更多工业领域以及不同行业领域的应用。

　　他举例，生成式AI可以依据企业和个人的具体需求提供更具个性化的体验，例如，可以依据用户偏好生成个性化推荐、产品设计或内容。“因为算力的限制，目前，生成式AI无法在工业领域快速产生应用，未来随着新模式的发展，生成式AI将在工业领域发挥更多作用，如医疗保健领域的精准医疗与算法，通过获取大量数据为患者确定最佳治疗方案，甚至在新出现的健康问题上升到人类可能注意到的水平之前就识别出来。”

　　据工业和信息化部2022年7月披露数据，我国人工智能核心产业规模超过4000亿元，企业数量超过3000家。根据Gartner、量子位智库预测，AIGC渗透率有望在2025年提升至10%，市场规模或将于2030年逾万亿人民币。

　　南都记者梳理发现，目前已布局生成式AI企业的研发方向大致包括大模型算法、算力支撑、数据源及数据处理、应用场景等。

　　其中，最引人关注的是AI大模型算法。目前已推出的项目包括的“文心一言”、阿里云的“通义千问”、腾讯的“混元AI”、华为的“盘古大模型”、三六零的“360智脑”、商汤科技的“商量SenseChat”等，其中不乏已经布局多年的科技企业。

　　对于生成式AI而言，强大的算力支撑是保证，其研发也需要数以万计的高性能计算芯片、IDC(互联网数据中心)、算力平台等基础设施。作为生成式AI产业链的上游，目前国内已入局AI算力芯片的企业包括海光信息、寒武纪-U、景嘉微等。在算力平台方面，目前国内已有互联网三巨头BAT及三大电信运营商等企业布局。

　　南都记者了解到，方面在3月14日的分析师会议上表示，ChatGPT等现象级智能应用对智能算力也提出了更高的要求。公司的芯片产品对视觉、语音、自然语言处理、传统机器学习技术等各类人工智能技术具备较好的普适性。目前，公司的第五代智能处理器微架构、第五代智能处理器指令集已完成研发。

　　如果说算力是AI的技术支撑，那数据就是AI算法的“加油站”，因为AI算法研发需要大量的训练数据“喂养”。而业内对数据这一板块的研发主要包括数据源、数据标注和清洗等，不仅有包括在内的训练数据专业提供商，也有、等提供资讯服务和研发数据资产平台的企业。

　　南都记者查询获悉，专注于为AI产业链各类机构提供算法模型开发训练所需的专业数据集。此前，海天瑞声在投资者关系平台上透露，截至2022年6月底，公司已积累智能语音标准化训练数据集764个，覆盖智能家居、、虚拟人等11种应用场景。

　　生成式AI的应用场景广泛，目前在互联网内容和服务、、辅助驾驶、、办公、金融等多个领域都有不同企业入局AI应用。科技巨头就在互联网内容和服务、搜索引擎、辅助驾驶等领域有所布局。游戏领域更是有网易、完美世界、三七互娱等头部企业开展AI应用。

　　南都此前报道，已有多家涉教育业务的企业宣布布局ChatGPT相关业务。2月9日，网易有道方面对此向南都记者表示，其AI技术团队已投入到相关技术在AI口语老师、中文作文批改等教育场景的落地研发中，将尽快推出相关的demo版产品。科大讯飞方面也称，其AI学习机会率先应用到相关技术，涉及中英文作文辅导、中英文口语学习等方面，5月将进行产品级发布。

　　近日，一男子利用AI技术“换脸”，将电视剧中的亲吻片段换上了自己的脸，炮制出了自己与女星迪丽热巴亲吻的画面，随后引起热议。

　　据南都此前调查报道，曾有人使用“AI换脸”技术生成女明星淫秽视频，并进行售卖。2021年3月，在一个名叫“AI明星换脸”的QQ群中，一名客服向南都记者发来一份名为“AI换脸最新说明”的文本文件。

　　文件中介绍，该工作室共有四种消费套餐，价格在28元至138元不等。其中，68元可购买一套AI技术明星换脸淫秽视频，包含换成了迪丽热巴、刘诗诗、刘亦菲、杨颖等当红女明星的视频，共500部左右。而138元则可购买“明星换脸App在线VIP版”，其介绍称，这是“全网最全的换脸App，包含国内外明星，所有换脸的作者都会上传”。

　　2022年，杭州互联网法院曾审理一起因“AI换脸”App利用深度合成算法侵害他人肖像权的案件。其中，原告楼某某系国内古风汉服模特，发现被告A公司运营的“AI换脸”App中有其拍摄的古风造型视频模板。用户可通过上传个人照片，将视频模板中的人脸替换成用户上传的人脸。法院经审理认为，被告A公司未经楼某某同意，利用深度合成技术使用楼某某肖像制作了伪造视频，依法应认定为构成对楼某某肖像权的侵害。

　　在教育领域，生成式AI应用同样存在风险。天风证券4月6日发布的研报指出，教育领域中，全球多国大学、科研机构发布明确的人工智能禁令，禁止使用ChatGPT和其他所有基于人工智能的工具完成学习与考试任务；多家期刊、出版机构也禁止将ChatGPT列为论文合著者。曾有美国的大学教授发现有学生提交了ChatGPT写的论文，并将该论文输入到ChatGPT中询问是否由它所撰写，ChatGPT答道：“99.9%的概率是的”。

　　生成式AI应用的数据泄露问题同样令人担忧。4月10日，中国支付清算协会发布关于支付行业从业人员谨慎使用ChatGPT等工具的倡议，称此类智能化工具已暴露出跨境数据泄露等风险。另据国际技术经济研究所消息，三星员工直接将企业机密信息以提问的方式输入到ChatGPT中，导致相关内容进入学习数据库从而可能泄露给更多人，被公司告知谨慎使用ChatGPT。

　　同时，生成式AI所带来的版权问题仍有待厘清。中国信息通信研究院2022年发布的《人工智能生成内容(AIGC)白皮书》指出，2020年腾讯公司诉网贷之家网站转载机器人自动撰写的文章作品一案中，深圳南山区法院认为在满足独创性要求的情况下，人工智能撰写的文章属于著作权保护的作品。法律概念的模糊引发司法裁判的翻转，导致生成式AI作品存在着著作权归属不清的现实困境。

　　事实上，生成式AI发展过程中出现的合规性、数据隐私、版权等风险问题，在全世界都是亟待解决的监管挑战。

　　南都记者注意到，意大利个人数据保护局此前宣布，暂时禁止使用聊天机器人ChatGPT，并表示已对ChatGPT背后的OpenAI公司展开调查。4月3日，德国联邦数据保护专员发言人称，出于数据保护方面的考虑，可能会暂时禁止在德国使用ChatGPT.此外，欧盟也表示希望对AI生成的内容进行强制性的规定，或要求所有生成式AI内容必须注明来源。

　　在业内专家看来，生成式AI既有优势，也有隐患。“生成式AI的发展，可以提高工作效率，减少一些繁琐枯燥的重复劳动，让我们更好地将精力放在一些AI无法替代人类、主观能动性更强的地方上。”广东工业大学信息工程学院副教授卢永毅告诉南都记者。

　　IDC中国研究总监卢言霞在接受南都记者采访时表示，生成式AI的技术尚处于起步阶段，但前景可期。在现阶段，生成式AI可能面临一系列的监管问题，比如伪造商品评论进行虚假营销，生成钓鱼邮件骗取个人信息，侵犯知识产权，编造谎言制造阴谋论等。

　　在法律层面，国标律师事务所律师姚克枫向南都记者指出，AI换脸存在侵犯他人肖像权的法律风险。生成式AI如果涉及到动画或者美术作品，可能还会侵犯他人的著作权甚至专利权，如果是生成一些特殊文字，可能会存在商标权的问题。另外，以ChatGPT为例，在聊天交互的时候，机器人后台可能会获取到出生日期、位置等个人隐私信息，一旦发生数据泄露或被黑客攻击，用户的隐私数据就没有了保障。

　　生成式AI在快速迭代发展的过程中遇到问题，需要政府监管和行业约束的共同规范。除了监管部门及时推出的管理办法，行业内也逐渐发展起了针对AI合规及内容甄别的细分赛道。

　　南都记者关注到，人民日报社传播内容认知全国重点实验室等机构联合推出了国内首个AI生成内容检测工具AIGC-X，可以快速区分机器生成文本与人工生成文本，还能对AI技术生成的假新闻、内容抄袭、垃圾邮件进行检测。此外，新华网旗下新华智云的事实核查机器人能实现对视频、音频、图片、文本等内容的统一审核。

　　对于国家互联网信息办公室近日发布的《生成式人工智能服务管理办法(征求意见稿)》，卢言霞表示，“我认为这次监管来得很及时。”在她看来，对生成式AI的监管可以重点放在生成内容的安全合规使用、训练时对隐私数据的使用等方面。而人工智能在不断发展中面临的风险问题不能穷举，可能还需要人工介入和审核。除了有关机构的监管，业内也可以自主形成联盟来进行自我约束。

　　在行业规范化层面，吴沈括则建议，最大程度引入多方参与治理，及时传递和形成必要的共识，并汇聚各方的关切和诉求。此外，以此为基础，及时、高效、科学地形成具有高度确定性和明确性的监管规则，设定监管标准，最大范围地及早引导各方主体的业务行为和应用行为，培育良好的合规监管体系。

　　此外，他建议，积极引入敏捷、高效、便利的监管监督机制和方式，为技术的发展提供良好的监管环境，同时对于红线风险和高危风险做出坚决的、必要的回应，最大限度缓解风险和挑战。