與人工智能相關(guān)的立法項目已列入立法規劃；專(zhuān)家稱(chēng)人工智能面臨倫理道德框架、隱私保護等問(wèn)題

　　李彥宏

全國政協(xié)委員、百度董事長(cháng)兼CEO

立法本身不應該太超前，很多時(shí)候新事物剛剛出現，讓它稍微跑一段時(shí)間然后再總結經(jīng)驗，找到規律再來(lái)立法。其次，在不同的領(lǐng)域，涉及的立法都不一樣，比如說(shuō)像無(wú)人駕駛，在過(guò)去就沒(méi)有相關(guān)的法律。

　　劉慶峰

全國人大代表、科大訊飛董事長(cháng)

人工智能立法首先要保障人類(lèi)的生命和財產(chǎn)安全，也就是說(shuō)人工智能一定是要在風(fēng)險可控范圍內來(lái)使用，比如說(shuō)在自動(dòng)駕駛領(lǐng)域，它的應用門(mén)檻和標準是什么；在醫療領(lǐng)域，人工智能要達到一定的準確度，而且最好通過(guò)一定的資質(zhì)認證。

3月4日上午,十三屆全國人大二次會(huì )議舉行新聞發(fā)布會(huì )，大會(huì )發(fā)言人張業(yè)遂表示，已將與人工智能密切相關(guān)的立法項目列入立法規劃。

張業(yè)遂稱(chēng)，全國人大常委會(huì )已將一些與人工智能密切相關(guān)的立法項目，如數字安全法、個(gè)人信息保護法和修改科學(xué)技術(shù)進(jìn)步法等，列入本屆五年的立法規劃。同時(shí)把人工智能方面立法列入抓緊研究項目，圍繞相關(guān)法律問(wèn)題進(jìn)行深入的調查論證，努力使人工智能創(chuàng )新發(fā)展，努力為人工智能的創(chuàng )新發(fā)展提供有力的法治保障。

從2017年首次被寫(xiě)進(jìn)政府工作報告，到去年受到多位兩會(huì )代表委員關(guān)注，人工智能儼然已經(jīng)成為兩會(huì )的焦點(diǎn)。2018年國務(wù)院總理李克強作政府工作報告時(shí)提到，發(fā)展壯大新動(dòng)能。做大做強新興產(chǎn)業(yè)集群，實(shí)施大數據發(fā)展行動(dòng)，加強新一代人工智能研發(fā)應用，在醫療、養老、教育、文化、體育等多領(lǐng)域推進(jìn)“互聯(lián)網(wǎng)+”。

隨著(zhù)人工智能的迅猛發(fā)展，其對社會(huì )、經(jīng)濟、文化等領(lǐng)域已經(jīng)產(chǎn)生越來(lái)越深遠的影響。同時(shí)，人工智能面臨倫理道德框架、隱私與安全保護等問(wèn)題，為了讓人工智能實(shí)現健康發(fā)展，急需一套完善的法律體系與之匹配。

從追趕到全球領(lǐng)先

雖然人工智能最早的浪潮起源于上世紀50年代的美國，但經(jīng)歷了近70年來(lái)的曲折發(fā)展，中國已經(jīng)成為全球領(lǐng)先的人工智能大國。根據聯(lián)合國下屬的世界知識產(chǎn)權組織（WIPO）公布的研究報告《技術(shù)趨勢2019：人工智能》顯示，在全球人工智能領(lǐng)域的競爭中，中國和美國處于領(lǐng)先地位。

報告指出，AI專(zhuān)利申請最多的前20家科研機構中，有17家來(lái)自中國；AI相關(guān)科學(xué)出版物數量排名前20的科研機構中，10家來(lái)自中國。全球前30名AI專(zhuān)利申請方中的4家科研機構，有3家來(lái)自中國。

另?yè)﨏NNIC第43次調查報告顯示，截至2018年6月，我國人工智能企業(yè)數量已達到1011家，主要集中在北京、上海和廣東。其中，北京擁有395家企業(yè)，成為全球人工智能企業(yè)最多的城市。

去年，習近平總書(shū)記在中共中央政治局第九次集體學(xué)習時(shí)強調指出，加快發(fā)展新一代人工智能是我們贏(yíng)得全球科技競爭主動(dòng)權的重要戰略抓手，是推動(dòng)我國科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級、生產(chǎn)力整體躍升的重要戰略資源。

他在講話(huà)中特別指出，人工智能具有溢出帶動(dòng)性很強的“頭雁”效應?！霸谝苿?dòng)互聯(lián)網(wǎng)、大數據、超級計算、傳感網(wǎng)、腦科學(xué)等新理論新技術(shù)的驅動(dòng)下，人工智能加速發(fā)展，呈現出深度學(xué)習、跨界融合、人機協(xié)同、群智開(kāi)放、自主操控等新特征，正在對經(jīng)濟發(fā)展、社會(huì )進(jìn)步、國際政治經(jīng)濟格局等方面產(chǎn)生重大而深遠的影響?！?/p>

立法工作有待加快

中國在熱情擁抱新一輪人工智能熱潮的同時(shí)，從政府部門(mén)到產(chǎn)學(xué)研各界對于人工智能發(fā)展所涉及的法律及倫理問(wèn)題給予了高度關(guān)注。2018世界人工智能大會(huì )開(kāi)幕式上，習近平總書(shū)記強調，處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題。

與電商法歷時(shí)5年才正式落地不同，人工智能立法更早被兩會(huì )代表委員關(guān)注。去年兩會(huì )期間，全國政協(xié)委員、百度董事長(cháng)兼CEO李彥宏就在提案中表示，希望國家出臺政策鼓勵人工智能的開(kāi)放平臺與加速自動(dòng)駕駛相關(guān)立法。

目前，中國人工智能的總體政策在2017年7月國務(wù)院發(fā)布的《新一代人工智能發(fā)展規劃》中得到體現，但該規劃只是要求對人工智能在部分領(lǐng)域初步建立倫理規范和政策法規，尚未上升至法律層面。由此可見(jiàn)，人工智能的立法仍有待加快。

全國人大代表、湖北得偉君尚律師事務(wù)所首席執行合伙人蔡學(xué)恩認為，在人工智能行為倫理道德框架、人工智能應用相關(guān)的民事與刑事責任確認、隱私和產(chǎn)權保護、信息安全利用等問(wèn)題上的研究均需要加強。

立法有何挑戰？

人工智能的立法需盡快提上議程，但亦應注意到人工仍屬于新生事物，如何把握適當的邊界是關(guān)鍵，尤其是考慮到人工智能可以應用到金融、醫療、交通等多個(gè)場(chǎng)景中，出臺一部總括性的法律可能會(huì )阻礙人工智能的發(fā)展。

今年兩會(huì )前夕，李彥宏在接受新京報記者采訪(fǎng)時(shí)就表示，人工智能立法本身不應該太超前，“很多時(shí)候新事物剛剛出現，讓它稍微跑一段時(shí)間然后再總結經(jīng)驗，找到規律再來(lái)立法?！?/p>

李彥宏表示，在不同的領(lǐng)域，涉及的立法都不一樣，比如無(wú)人駕駛，在過(guò)去就沒(méi)有相關(guān)的法律?！氨本┦泻苤匾暉o(wú)人駕駛，很快有相應的法律來(lái)保障我們的創(chuàng )新能夠有序進(jìn)行?！?/p>

全國人大代表、科大訊飛董事長(cháng)劉慶峰亦向記者表示，以AI+醫療為例，雖然機器給病人診斷的平均準確率比一些基層的農村醫生要高，但是從法律層面來(lái)說(shuō)機器不能給病人看病，因此更多的時(shí)候是將機器得出的結論交給醫生，讓醫生來(lái)做決定?！　”景娌蓪?xiě)/新京報記者 陸一夫

■ 訪(fǎng)談

李彥宏：人工智能立法不能太超前

讓它跑一段總結經(jīng)驗再立法；無(wú)人駕駛、智能醫療等領(lǐng)域都需要立法

全國政協(xié)委員、百度董事長(cháng)兼CEO李彥宏今年的三項提案均與人工智能相關(guān)，分別是構建智能交通解決方案，讓老百姓出行更順暢；完善電子病歷管理制度，促進(jìn)智能醫療應用探索，助力“健康中國”戰略實(shí)施；加強人工智能倫理研究，打造智能社會(huì )發(fā)展基石。

新京報：關(guān)于人工智能立法，你有哪些建議？

李彥宏：首先，我覺(jué)得立法本身不應該太超前，很多時(shí)候新事物剛剛出現，讓它稍微跑一段時(shí)間然后再總結經(jīng)驗，找到規律再來(lái)立法。其次，在不同的領(lǐng)域，涉及的立法都不一樣，比如說(shuō)像無(wú)人駕駛。北京市很重視無(wú)人駕駛，很快有相應的法律來(lái)保障我們的創(chuàng )新能夠有序進(jìn)行，到今天百度已經(jīng)拿到了50張左右的自動(dòng)駕駛測試車(chē)證。

醫療方面也需要相關(guān)的立法，統一電子病歷的格式，必須要有什么樣的字段，要有什么樣的內容，不同的醫院、機構之間進(jìn)行交換，必須保護患者的隱私等等，都應該通過(guò)立法的方式來(lái)解決。

新京報：如何解決互聯(lián)網(wǎng)和AI發(fā)展過(guò)程中遇到的數據孤島的問(wèn)題？

李彥宏：以電子病歷為例，大多數好的醫院都有電子化病歷。但是這些病歷相互之間沒(méi)有打通，我在這個(gè)醫院看病之后，到了另外一個(gè)醫院還要重新做一遍檢查。我覺(jué)得確實(shí)需要通過(guò)政府的力量制定相應的標準，來(lái)推動(dòng)數據共享。

新京報：在這個(gè)過(guò)程中怎么去保護用戶(hù)的數據隱私？

李彥宏：在共享的過(guò)程當中，我們需要特別注意保護用戶(hù)的隱私，我覺(jué)得道理上大家都認可，關(guān)鍵還是看執行的過(guò)程當中能否有一個(gè)好的機制來(lái)約束。

百度內部若干年前提過(guò)兩個(gè)詞，一個(gè)叫“平臺化”，一個(gè)叫“接口化”。平臺化是指，我做一個(gè)東西，就爭取把它做成一個(gè)平臺，可以供其他部門(mén)的人使用。接口化是指把我的能力開(kāi)放給你，我告訴你我的平臺能干什么，但是我不把背后的數據、源代碼給你。這樣一來(lái)，數據得到了保護，知識產(chǎn)權得到了保護。

通過(guò)平臺化、接口化的方式，把邊界定義清楚，什么人可以獲得什么樣的信息，獲得什么樣的能力。然后通過(guò)一個(gè)平臺，或者是多個(gè)平臺來(lái)提供這些能力。

新京報：你認為，人工智能行業(yè)存在哪些問(wèn)題和挑戰？

李彥宏：我覺(jué)得大家對人工智能還是有很多誤解，兩方面的誤解都存在。有一些（對技術(shù)發(fā)展速度）比較樂(lè )觀(guān)的人擔心，人工智能一旦有了意志的話(huà)，會(huì )不會(huì )對人產(chǎn)生控制的能力。我覺(jué)得這個(gè)擔心其實(shí)是沒(méi)必要的，人工智能離這一步其實(shí)還非常遠，我的判斷是永遠達不到。

另外一個(gè)極端是，人工智能其實(shí)現在能做的有意義的事情還不夠多，市場(chǎng)還處在早期的階段，所以不夠重視，這也挺危險的。人工智能的推動(dòng)作用更多的是在生產(chǎn)端，可以大規模提升生產(chǎn)制造效率。如果一些企業(yè)不能及早地意識到人工智能在這一方面能夠起到的作用，是有可能被淘汰的。

新京報：在你看來(lái)，人工智能行業(yè)是不是存在一定的泡沫？

李彥宏：人工智能領(lǐng)域肯定是有泡沫，而且泡沫還不小。任何一個(gè)新的趨勢到來(lái)的時(shí)候大家都會(huì )感興趣，一擁而上。無(wú)論是投資也好，創(chuàng )業(yè)也好，或者是大的公司研發(fā)方向的調整，都會(huì )向著(zhù)這個(gè)新的趨勢去走，所以一定會(huì )產(chǎn)生一些泡沫。只有這樣大家都一起上的時(shí)候，才能夠推動(dòng)這個(gè)產(chǎn)業(yè)迅速地走向成熟。

人工智能行業(yè)走向成熟的過(guò)程是一個(gè)優(yōu)勝劣汰的過(guò)程，剩下的一定是少數公司。我覺(jué)得這是一個(gè)很自然的過(guò)程。

今天大家講的十個(gè)技術(shù)里面，可能有九個(gè)將來(lái)會(huì )證明其實(shí)沒(méi)什么價(jià)值，但是有一個(gè)技術(shù)最后慢慢被打磨成了非常有價(jià)值的技術(shù)。大家需要有這種心理準備，今天很熱的一些公司，可能十個(gè)里面有九個(gè)在五年以后就不存在了。 新京報記者 馬婧

■ 訪(fǎng)談

劉慶峰：立法首先要保障人類(lèi)安全

人工智能的立法核心一定要以人為本，這是立法的根本；立法應更有針對性

新京報：人工智能時(shí)代會(huì )對現有法律體系產(chǎn)生哪些新挑戰？

劉慶峰：我覺(jué)得人工智能立法的挑戰有兩方面，一是目前在原來(lái)法律體系中并沒(méi)有人工智能方面的法律法規，人工智能是新物種，它所帶來(lái)的積極幫助或者潛在風(fēng)險都是人類(lèi)沒(méi)有碰到過(guò)的，而法律體系的討論調研到最終制定存在一個(gè)比較漫長(cháng)的過(guò)程。

二是人工智能的發(fā)展日新月異，法律體系如何做到與時(shí)俱進(jìn)，盡快滿(mǎn)足人工智能產(chǎn)業(yè)發(fā)展和社會(huì )健康進(jìn)步的需要，確實(shí)存在很大的挑戰，這主要體現在人工智能對生產(chǎn)和生活方式的改變是全新的，其次是人工智能的變化非?？?。

新京報：對于人工智能立法，你有哪些建議？

劉慶峰：人工智能的立法核心一定要以人為本，這是我們立法的根本。我認為，人工智能立法首先要保障人類(lèi)的生命和財產(chǎn)安全，也就是說(shuō)人工智能一定是要在風(fēng)險可控范圍內來(lái)使用，比如說(shuō)在自動(dòng)駕駛領(lǐng)域，它的應用門(mén)檻和標準是什么；在醫療領(lǐng)域，人工智能要達到一定的準確度，而且最好通過(guò)一定的資質(zhì)認證。

第二是人工智能應該兼顧未來(lái)社會(huì )人文的需要，倡導人機耦合的模式，簡(jiǎn)單說(shuō)人工智能是幫助人的，而不是替代關(guān)系。在人機耦合上，我們要考慮到以人為本，未來(lái)人和機器是如何協(xié)作的。例如在醫療上我們叫人工智能系統為輔助診療系統醫生助手，在法律上叫人工智能為刑事案件輔助審判系統。

第三是人工智能立法對很多老百姓來(lái)說(shuō)還是陌生的，對技術(shù)也不是特別了解，所以人工智能在立法的同時(shí)需要有檢測手段，在檢測人工智能安全性上必須要有測試標準和方法，這樣才能使立法落到實(shí)處。

新京報：考慮到人工智能的應用跟很多的領(lǐng)域相結合，立法時(shí)是否應該更具針對性？

劉慶峰：人工智能立法應該要有針對性，就像制藥一樣，任何的藥物生產(chǎn)出來(lái)都要有臨床過(guò)程，通過(guò)技術(shù)分析證明它具備藥效，通過(guò)臨床驗證后再進(jìn)行大規模的推廣。我覺(jué)得人工智能也是這樣，立法時(shí)先在一定范圍內進(jìn)行試點(diǎn)，試點(diǎn)通過(guò)驗證才可以去大規模落地。

人工智能應用必須要遵循這個(gè)邏輯，而不是說(shuō)大干快上，最終導致行業(yè)泡沫過(guò)多，也容易在應用過(guò)程中帶來(lái)不必要的傷害，從而影響人工智能健康發(fā)展。

像習總書(shū)記說(shuō)的，人工智能具有非常強的頭雁效應，未來(lái)社會(huì )將從互聯(lián)網(wǎng)+進(jìn)化到人工智能+時(shí)代，各行各業(yè)都可以用人工智能深刻改變現在的生產(chǎn)和生活方式。對于行業(yè)里的頭部企業(yè)，需要有更多的支持和關(guān)心。

新京報：解決數據孤島問(wèn)題的同時(shí)，如何保護用戶(hù)隱私？

劉慶峰：首先是法律要同步跟上，其次是企業(yè)要有更強的保護意識，現在已經(jīng)有很多服務(wù)涉及老百姓的日常生活。因此相關(guān)行業(yè)的領(lǐng)軍企業(yè)要做到表率作用，不僅僅是向用戶(hù)進(jìn)行告知，還包括價(jià)值觀(guān)層面的指引。

第三，目前很多數據都是在用戶(hù)不知情的情況下被企業(yè)拿走，從技術(shù)層面看，我們應該通過(guò)人工智能技術(shù)的發(fā)展給予用戶(hù)更多的選擇權，例如訊飛的翻譯機，考慮到機密信息可能泄露，公司在設計產(chǎn)品的時(shí)候就做了離線(xiàn)翻譯的版本，這是非常必要的。

新京報：中國在人工智能領(lǐng)域處于領(lǐng)先位置，應該如何保持先發(fā)優(yōu)勢？

劉慶峰：中國要保持目前的優(yōu)勢，就要以應用促進(jìn)人工智能發(fā)展，在兼顧保護和共享數據之間推動(dòng)人工智能更好地成長(cháng)。歐洲就是把數據管得過(guò)嚴，影響人工智能的發(fā)展。我認為，數據的適度管理尺度以及典型應用場(chǎng)景的快速突破，能夠形成數據和應用場(chǎng)景的良性互動(dòng)，最終實(shí)現人工智能上的領(lǐng)先優(yōu)勢。

中國要持續保持人工智能發(fā)展，應對人工智能的第三次浪潮，未來(lái)還需要更大的突破，例如要在源頭技術(shù)創(chuàng )新上加油，進(jìn)一步推動(dòng)人工智能技術(shù)在應用方面的落地，在人工智能未來(lái)的發(fā)展中要做更多的前瞻性、基礎性的布局，才能夠在人工智能領(lǐng)域保持領(lǐng)先，我覺(jué)得這是非常關(guān)鍵的一步。 新京報記者 陸一夫

數據來(lái)源：中商產(chǎn)業(yè)研究院　新京報制圖/趙斌