世界人工智能大【dà】会：人工智能的应【yīng】用标准、体系化【huà】监管与【yǔ】安全伦理【lǐ】应当同步【bù】跟进

在智能【néng】社会里，如【rú】何建设数【shù】字治理生态，一直是【shì】行业【yè】的热议话题。7日，在2023世界人工【gōng】智能大会【huì】的多场相关论坛上【shàng】，业【yè】内专【zhuān】家【jiā】和研究【jiū】人员认为【wéi】，在人工智能的发展进程中，应【yīng】用标准【zhǔn】、体【tǐ】系化监管与【yǔ】安全伦理应当同步跟进。

“负责任”的人工智能

(资料图片仅供参考)

在上海杨浦滨江举行的【de】智能社会论坛上，发布了多份【fèn】重【chóng】量级【jí】的研究【jiū】和实践成果。同【tóng】济大学研究【jiū】团队【duì】发布了《人工智能大模型伦【lún】理规范【fàn】操【cāo】作指引》和《生成【chéng】式人工【gōng】智【zhì】能风险评【píng】估框架【jià】（1.0）》两份【fèn】专题研【yán】究成果，旨【zhǐ】在应对人工智能大模型【xíng】的风险，推动伦理规范落【luò】地实施；同济【jì】大学与百度研究团队联合发【fā】布了《面向新商业模式的高级别自动驾驶法【fǎ】律责任白皮书》，关注全自动【dòng】驾驶应用场景的【de】法律问题。

同济大学常务副【fù】校长【zhǎng】吕【lǚ】培明【míng】等专【zhuān】家认为，人工智能既是引领当前这一轮科【kē】技【jì】革命【mìng】和产业变革的战【zhàn】略性【xìng】技术，也是推动城市治理生态【tài】和治【zhì】理能力现代化的【de】必由【yóu】之路。应【yīng】主动整合多学【xué】科力量，搭【dā】建起“技【jì】术与社会”畅通的对话交流平台，应对智能技术【shù】发展潜在的伦理、法【fǎ】律和治【zhì】理风【fēng】险【xiǎn】与挑战，构建公平规范的【de】数字【zì】治【zhì】理【lǐ】生态，超前探索智能社会的运【yùn】行模式、法律法规、标准【zhǔn】规范、政策体系和【hé】体制【zhì】机制，推动发展“负责任【rèn】的人工智【zhì】能”。

上海杨浦作为全国首批10个【gè】国家智能社会治【zhì】理实验【yàn】综合基地【dì】之【zhī】一【yī】，正【zhèng】加强人工智能研发与应【yīng】用活动的引导，实现人【rén】工智能产业规【guī】范【fàn】与发展【zhǎn】的动态【tài】平衡，打造智能治理的【de】新样板。

大模型的风险管理

推进大模型的创新和应用【yòng】，同步也【yě】要【yào】加强大【dà】模型的风险管理与行【háng】业治理【lǐ】。在上海西岸举行的“大模型时代的通用人工智能产业发展机遇【yù】以及风险”主题【tí】论坛上，上海市经【jīng】济和信【xìn】息化委员会相关负责人【rén】表示，上海【hǎi】作为人工智能创新高地与【yǔ】“先行区【qū】”，在积极【jí】打造具有国际影响力的【de】世界级产业集【jí】群的同时【shí】，坚持科【kē】技【jì】向【xiàng】善理【lǐ】念，持续推进【jìn】人工【gōng】智能健康规范发展。

据介绍，上海积【jī】极推进大模【mó】型技术的创新和应用，系统【tǒng】性支持技术攻【gōng】关、算【suàn】力【lì】供给、数据集【jí】建设和公【gōng】共服务需求；布局科【kē】学智能，推进科学智能赋【fù】能生物【wù】医药、集成电路、高【gāo】端【duān】装备和先【xiān】进材料等创【chuàng】新应用【yòng】；提升智能机器【qì】人在复杂场景下【xià】的【de】智能能力。

与此同时，上海【hǎi】正在加快完善行业【yè】治理体系，面向人【rén】工智能的关【guān】键领域【yù】，加【jiā】快制【zhì】定技术、产品、服务【wù】、行业应用、安全伦理等标准，在健全【quán】法规、标准【zhǔn】、监【jiān】管体系等方面，努力【lì】形成上海特色方【fāng】案。

上海【hǎi】目前【qián】已经启动高风【fēng】险人工智能产品和【hé】服务清单式管理的相【xiàng】关研究【jiū】，并积极推动【dòng】大模型相关治理研究；建立健全大【dà】模型【xíng】评测体系，建设【shè】大【dà】模型【xíng】评测中心，探索【suǒ】大模型自动化评【píng】测【cè】工具；探索适应大模型特点【diǎn】的创【chuàng】新监管方式。

上海将搭【dā】建更多研【yán】讨平台，引导产业人士参【cān】与【yǔ】科【kē】技创【chuàng】新实践；积极参与国际人工【gōng】智能治理【lǐ】规则【zé】的【de】制定和实施，推动人工智能伦理标【biāo】准的互认和协调，共同【tóng】推进人工智【zhì】能造福人类。

扶持与合规并重

为打造【zào】大模型和【hé】生成式人工智能生【shēng】态集聚和创新应用高地，上海徐汇此次率【lǜ】先推【tuī】出了面向生成式人工智能【néng】的【de】扶【fú】持政策【cè】，直【zhí】面【miàn】企业需求【qiú】和产业关切。

15条具体举措，聚【jù】焦技术强基支撑，支持通【tōng】用大模型【xíng】、垂类大模【mó】型等【děng】关键【jiàn】领域自【zì】主创新，支持具身【shēn】智能、自主智能体等【děng】前沿领域布【bù】局；聚焦【jiāo】场景应用示范，充分发【fā】挥徐汇特色产业基础和新赛道先发优势，全面【miàn】推动生成【chéng】式人工智能技【jì】术【shù】在医疗、金【jīn】融【róng】、社交、智能网【wǎng】联汽车等领域融合【hé】赋能；聚焦创新生态构建【jiàn】，针【zhēn】对【duì】算力、数据、算法【fǎ】、融【róng】资【zī】、人才、监【jiān】管等关键环节，强化要【yào】素支撑。

2022年，上海徐汇人工智【zhì】能产业【yè】规模【mó】已近千【qiān】亿元，近【jìn】五【wǔ】年年均【jun1】增【zēng】速达到30%以上【shàng】；在大模型和生成式人工智能【néng】细分领域，已经汇聚相【xiàng】关企业近【jìn】200家，其【qí】中核心企业30余家，成为上海乃至【zhì】全【quán】国大模型的策源【yuán】地之一。

在上海，智能社会治理获【huò】得同等的关注。此次，上海杨浦揭牌成【chéng】立了“人工【gōng】智能合规服【fú】务中心”，将发挥同济【jì】大【dà】学的【de】智力与技术资源优势与杨浦区的【de】实践【jiàn】优势，为企【qǐ】业的人【rén】工【gōng】智能新技术新应用，提供合规【guī】指引、咨询和【hé】服【fú】务。