新动态：生成式AI引发治理新思考

◎本报记者 崔 爽

(资料图片仅供参考)

过去几【jǐ】个【gè】月，ChatGPT为人工智能技【jì】术按下加速键。这【zhè】个聊天【tiān】程【chéng】序证明了超大【dà】参数模型和通用型【xíng】人工【gōng】智能的可行【háng】性，谷歌、亚【yà】马逊等巨头纷【fēn】纷推出自主【zhǔ】研发的相关平台，国内也已有十数家企业在该【gāi】领【lǐng】域【yù】有【yǒu】所布局。

它们【men】被统【tǒng】称为“生成式人工智能”。简单来说，这种AI可以【yǐ】通过算法【fǎ】生成新【xīn】内容，包括图像、文字、音【yīn】乐，甚至【zhì】视频、代码等【děng】。

这令人兴【xìng】奋【fèn】也不乏担忧。数据【jù】安全、个人隐【yǐn】私、信息造假、算【suàn】法歧视……各国监管【guǎn】部门对【duì】一【yī】系列【liè】潜在风险反应迅速，动作【zuò】不断【duàn】。

3月底，意大利个人数据保【bǎo】护局宣布暂时【shí】禁【jìn】止使用ChatGPT，欧盟多【duō】个国家跟【gēn】进，酝酿具【jù】体【tǐ】监管措施。美国商务【wù】部4月【yuè】公【gōng】开征求意见【jiàn】，讨论新人【rén】工【gōng】智能模型在发布前【qián】是否应经过认证程序等【děng】内【nèi】容。我国【guó】国家网信【xìn】办也于近日发【fā】布《生成式人工智能服务【wù】管理办法（征求意【yì】见稿）》，针对准入门【mén】槛【kǎn】、数据来【lái】源、标注规则等作出明确规定。

风险到哪里 监管到哪里

“相比以往的AI技术，生成式AI可以直接利【lì】用【yòng】自然【rán】语言和计算机进【jìn】行交互【hù】，使用门【mén】槛低，生成内容质【zhì】量高。”世辉律师事务所【suǒ】合伙人【rén】、律师【shī】王新锐对科技日报【bào】记者表示，“这让其一旦【dàn】被滥用或误用，迷惑性【xìng】比以往的人工【gōng】智【zhì】能【néng】技术更强，潜在损害也更大【dà】。并【bìng】且【qiě】它有【yǒu】可能成为一种影响【xiǎng】各【gè】行业的【de】底座型技术。”

除了涉及数据安【ān】全、个【gè】人信【xìn】息保护等传统【tǒng】问题，中国互【hù】联网【wǎng】协会研究【jiū】中心【xīn】副主任吴沈【shěn】括强调，生【shēng】成式AI也给内容治理、社【shè】会运【yùn】行产【chǎn】生冲击和影响【xiǎng】，这给现有的治理体制机【jī】制的【de】敏捷【jié】性、覆盖性和穿透性带来很大挑战。

据王新【xīn】锐介绍，目前，意大利、西班牙【yá】、德【dé】国、加拿大、英国等国【guó】家出【chū】于数据【jù】和隐私保护的考【kǎo】虑对ChatGPT及其开发者展开调查，此外，域外有可【kě】能将【jiāng】ChatGPT等生成式AI列入高【gāo】风险人工智能【néng】清单，希望【wàng】通【tōng】过【guò】立【lì】法防范其风险。

吴沈括表示，前述主要【yào】国【guó】家对于生成式【shì】AI的监管依然从经【jīng】典的数【shù】据治理、数【shù】据【jù】安【ān】全的角度【dù】切入【rù】，在他们看来，生成式AI的核心逻辑【jí】在于海量数据的汇【huì】集、加工、处理以及丰富的【de】运算输出，因此，采取数据治【zhì】理的思路顺理【lǐ】成章。

但回到【dào】我国，仅从数据治【zhì】理出发还不够，“我们的关切涉及内【nèi】容治理、消费者【zhě】权益、透明度、公平性、知【zhī】识产权保护等各【gè】个方面，基本覆盖了目【mù】前【qián】与生成【chéng】式AI相关【guān】的主要风【fēng】险类型，故而采【cǎi】取的是【shì】一种【zhǒng】风险预防、风险干预的多层次综【zōng】合【hé】治理思路。”吴沈【shěn】括说【shuō】。

建构多方参与的治理生态

技术大步向前，如何平衡技术创新和政策管理，考验各方智慧。

“一方面，我们需要加强数据隐私和个人【rén】信息【xī】安全的【de】保护，对生成式AI从训练到投入使用【yòng】的全生命周【zhōu】期的个【gè】人信息的处【chù】理和数据保【bǎo】护作出规范。另一方面，从生成式AI可【kě】能带【dài】来的风【fēng】险出发，在【zài】现有法律框【kuàng】架上【shàng】进一步建立健全生成式AI产业各【gè】方主【zhǔ】体治理框架和问责机制，落实生【shēng】成式AI相关主【zhǔ】体【tǐ】的权利义务。”王新【xīn】锐说，下一步需要进一步细化落实平台合规机制、加【jiā】强【qiáng】科技伦理要求、确【què】保算法【fǎ】安【ān】全【quán】并【bìng】建立健全问【wèn】责机【jī】制【zhì】、促进【jìn】高质量数据合【hé】法合规地【dì】流【liú】通共享【xiǎng】。

吴沈括提出【chū】，治理规则的【de】明确性和确定【dìng】性需要不【bú】断提升，努【nǔ】力打造实时、敏捷、全面的监【jiān】管机制，最大【dà】限度发挥监管的引导【dǎo】作【zuò】用及红【hóng】线保护的【de】根本价值【zhí】。

生成式AI爆火，涉及诸多【duō】利益诉求【qiú】及关切。对此，王新锐建【jiàn】议，需要充分观【guān】察产业界和监【jiān】管【guǎn】机构、大众媒体的互【hù】动，建立多【duō】方参与的治【zhì】理机【jī】制。同时，加强公众【zhòng】教育【yù】和参与，提【tí】高公众【zhòng】对【duì】生成式【shì】AI的认识和理解，共同推动生成式AI的【de】健康发展。（崔爽）