在9月8日舉行的2024浦江創(chuàng)新論壇科技倫理專(zhuān)題論壇上，科技部副部長(zhǎng)邱勇表示，當(dāng)前科學(xué)研究不斷突破人類(lèi)認(rèn)知邊界，技術(shù)創(chuàng)新進(jìn)入前所未有的密集活躍期，生命科學(xué)、醫(yī)學(xué)、人工智能等前沿科技交叉融合，在促進(jìn)科學(xué)發(fā)現(xiàn)、推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí)，也給個(gè)人和社會(huì)帶來(lái)新的挑戰(zhàn)，對(duì)全球范圍現(xiàn)有倫理秩序造成沖擊。

“中國(guó)政府始終高度重視科技倫理治理，積極倡導(dǎo)科技向善理念，著力構(gòu)建覆蓋全面、導(dǎo)向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系。”邱勇說(shuō)道。

人工智能要不要“踩剎車(chē)”

近年來(lái)，以ChatGPT、Sora為代表的人工智能技術(shù)，在給世界帶來(lái)機(jī)遇的同時(shí)，也帶來(lái)了風(fēng)險(xiǎn)挑戰(zhàn)，如隱私泄露、算法偏見(jiàn)等。為了確保人工智能安全、可靠、可控，我國(guó)提出建立人工智能安全監(jiān)管制度。

那么，究竟該怎么監(jiān)管？中國(guó)工程院院士、國(guó)家科技倫理委員會(huì)委員高文說(shuō)，目前，圍繞人工智能倫理的討論主要有兩種觀點(diǎn)：一種是強(qiáng)調(diào)堅(jiān)決嚴(yán)格控制風(fēng)險(xiǎn)；另一種認(rèn)為現(xiàn)在的人工智能尚未發(fā)展到需要立刻“踩剎車(chē)”的階段，現(xiàn)階段做好“剎車(chē)”設(shè)計(jì)，而不必“踩剎車(chē)”。

為了規(guī)避潛在的危害，高文認(rèn)為，要加強(qiáng)技術(shù)研究和制度設(shè)計(jì)，預(yù)留對(duì)人工智能進(jìn)行“剎車(chē)”或“關(guān)電源”的處理手段。其中，“剎車(chē)”的效果和靈敏度與技術(shù)相關(guān)，因此要加強(qiáng)技術(shù)研究。

在高文看來(lái)，判別式人工智能和生成式人工智能發(fā)展如火如荼，但對(duì)當(dāng)前的勞動(dòng)力市場(chǎng)影響還不大。他判斷，下一輪熱潮很可能是具身智能、人形機(jī)器人等，“如果大量使用機(jī)器人，如何讓人仍有工作，這是我們必須要面臨的問(wèn)題?！?/p>

怎樣平衡科技創(chuàng)新與倫理責(zé)任

如何平衡科技創(chuàng)新與倫理責(zé)任，挑戰(zhàn)是什么？在科技倫理論壇圓桌環(huán)節(jié)，專(zhuān)家們各抒己見(jiàn)。

中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長(zhǎng)龔克表示，最大的挑戰(zhàn)在于是否擁有將強(qiáng)烈倫理意識(shí)和創(chuàng)新能力相結(jié)合的人。只有那些能將倫理和創(chuàng)新緊密結(jié)合的人，才能有效推動(dòng)科技創(chuàng)新朝著負(fù)責(zé)任的方向發(fā)展。

“我們正處在多元價(jià)值時(shí)代，一方面要包容多元；另一方面在一些具體問(wèn)題上要達(dá)成共識(shí)變得困難?！睆?fù)旦大學(xué)哲學(xué)學(xué)院教授王國(guó)豫說(shuō)，大家都意識(shí)到負(fù)責(zé)任創(chuàng)新，但在具體落實(shí)時(shí)，距離負(fù)責(zé)任的行為還有很大差距，這是很大的挑戰(zhàn)。

就在兩個(gè)月前，國(guó)家科技倫理委員會(huì)醫(yī)學(xué)倫理分委員會(huì)制定發(fā)布《人類(lèi)基因組編輯研究倫理指引》，力促人類(lèi)基因組編輯研究健康發(fā)展。

“科學(xué)技術(shù)的進(jìn)步不能成為科學(xué)家的‘特權(quán)’，這其實(shí)給我們提出了責(zé)任問(wèn)題?！北本﹨f(xié)和醫(yī)學(xué)院生命倫理學(xué)研究中心執(zhí)行主任翟曉梅強(qiáng)調(diào)，科學(xué)進(jìn)步推動(dòng)醫(yī)學(xué)發(fā)展，是人類(lèi)基因組編輯技術(shù)發(fā)展和應(yīng)用的價(jià)值所在。但它同時(shí)產(chǎn)生重要的倫理問(wèn)題和社會(huì)問(wèn)題，特別是人類(lèi)生殖系基因編輯技術(shù)的臨床應(yīng)用面臨的風(fēng)險(xiǎn)，不可能局限在某個(gè)國(guó)家、某個(gè)共同體、某個(gè)社會(huì)，因?yàn)樗强蓚鬟f的，可能給人類(lèi)帶來(lái)重大風(fēng)險(xiǎn)。

在翟曉梅看來(lái)，作為國(guó)家科技倫理委員會(huì)醫(yī)學(xué)倫理分委員會(huì)編制的第一份倫理規(guī)范，《人類(lèi)基因組編輯研究倫理指引》最大的特點(diǎn)是將不同科學(xué)活動(dòng)面臨的倫理挑戰(zhàn)做了區(qū)分，無(wú)論是體外實(shí)驗(yàn)室研究、臨床前研究、臨床應(yīng)用，還是體細(xì)胞的研究和生殖細(xì)胞的研究。與此同時(shí)，倫理學(xué)的考量應(yīng)該是動(dòng)態(tài)的，需要?jiǎng)討B(tài)評(píng)估安全性問(wèn)題。

“科技倫理治理攸關(guān)人類(lèi)文明長(zhǎng)遠(yuǎn)發(fā)展，是全球共同關(guān)注的議題。”邱勇指出，中國(guó)將持續(xù)加強(qiáng)科技倫理治理，積極推動(dòng)深化科技倫理領(lǐng)域的國(guó)際交流合作，促進(jìn)科學(xué)創(chuàng)新更好造福于人類(lèi)。一是堅(jiān)持科技向善，促進(jìn)負(fù)責(zé)任創(chuàng)新；二是堅(jiān)持倫理先行，實(shí)施敏捷治理，加強(qiáng)科技倫理風(fēng)險(xiǎn)監(jiān)測(cè)，實(shí)施更加符合科技活動(dòng)規(guī)律的敏捷審慎治理策略，把好科技倫理“方向盤(pán)”；三是堅(jiān)持開(kāi)放合作，共享科技惠益。（記者劉垠）