和大多數(shù)人憧憬人工智能技術發(fā)展會給人類社會帶來哪些福利有所不同，法學家們的思考出發(fā)點是：人工智能技術是一把“雙刃劍”，在造福人類的同時，也可能蘊藏著新的風險。

今天是上海書展的最后一天。下午四點，知名刑法學家、華東政法大學刑事法學研究院院長劉憲權攜新作《人工智能時代的刑法觀》而來，并作了同題的法學講座。

在學校上課時，這位明星法學教授總喜歡從提問開始、啟發(fā)學生思考。在今天的講座現(xiàn)場，劉憲權的講述同樣是從一則大眾關心的問題開始的：當人工智能機器人被作為犯罪工具、開始危害社會時，現(xiàn)有刑法是否能夠完全規(guī)制人工智能犯罪？

“有人直到目前為止仍然認為，用于實施犯罪的人工智能機器人，本質上就是一個作案工具，是一件器物，現(xiàn)行刑法完全可以對相關犯罪行為進行規(guī)制。但事實真是如此嗎，刑法的完全規(guī)制能夠適用多久？”結合近年在人工智能法學領域的研究，劉憲權給出了他的結論：按照機器人智能化程度，目前暫分為普通機器人、弱人工智能機器人和強人工智能機器人。而這個升級發(fā)展的過程，本質上是機器人“機器”的成分越來越少，“人”的成分越來越多的過程。

眾所周知，人是有意識和思維的。隨著技術的發(fā)展，未來的強人工智能機器人一旦有了“思維”，刑法這道“最后的防線”為了保護社會的安穩(wěn)有序健康，就有必要作出相應的修訂。

“技術的發(fā)展和更迭往往超乎人類的想象。當風險轉變?yōu)楝F(xiàn)實危險后才考慮刑法規(guī)制問題，將使人類陷入被動的局面。”因此，針對一些學者所憂慮的法律的規(guī)制會束縛人工智能技術發(fā)展的手腳、遏制技術進步不同，劉憲權在他此次的新作中提出明確主張：法律就應該未雨綢繆。而刑法更應該秉持前瞻性的理念，未雨綢繆，確保人工智能技術在應用層面安全、可靠、可控。

即便是眼下，一些案件的發(fā)生，已經(jīng)讓司法界感到棘手。

劉憲權舉了一個案例。2015年2月，英國首例達芬奇手術機器人心瓣修復手術進行。這原本是一場最尖端的醫(yī)療AI技術展示，沒想到卻成了一場鮮血四濺的慘案。當時，達芬奇手術機器人出現(xiàn)了“暴走”，不但把患者的心臟縫錯了位置，還戳穿了患者的大動脈，導致患者在手術后一周去世，手術以失敗告終。分析可知，雖然醫(yī)生在手術中存在醫(yī)療過錯行為，但醫(yī)療損害事故的發(fā)生并不完全是因為醫(yī)生的過失，醫(yī)療機器人在同樣存在“失誤”。這一案已經(jīng)提示人們注意，醫(yī)療機器人因機器故障或算法失誤，就可能導致醫(yī)療損害，存在一定的刑事風險。

“就目前的人工智能技術發(fā)展水平而言，我國現(xiàn)行刑法規(guī)定可以規(guī)制大部分涉人工智能犯罪。但需要針對條文規(guī)定過于模糊的地方，通過司法解釋予以明確，或者調整部分犯罪的構成要件，將人工智能時代出現(xiàn)的新型行為方式予以包涵。”而劉憲權認為針對人工智能時代出現(xiàn)的特有新型犯罪，則需要踐行人工智能時代刑法的前瞻性理念，增設濫用人工智能產(chǎn)品罪和人工智能產(chǎn)品事故罪等罪名，實現(xiàn)技術飛速發(fā)展和刑法條文相對穩(wěn)定性之間的平衡。

值得一提的是，劉憲權還大膽地在新作中提出了一個觀點：依據(jù)人工智能機器人自身的特點，增設能夠適用于人工智能機器人的刑罰處罰方式，無疑是人工智能時代規(guī)制涉人工智能犯罪的重要內容。

他建議，在對人工智能刑事立法具體條文的修訂和增設方面，應當修改侵害計算計信息系統(tǒng)類犯罪、交通肇事罪、危險駕駛罪等犯罪的主體和行為方式，使其適應人工智能技術的發(fā)展現(xiàn)狀和未來趨勢。同時，在刑法中針對人工智能機器人增設刪除數(shù)據(jù)、修改程序、永久銷毀等刑罰處罰的方式。

今年是劉憲權連續(xù)第四年在上海書展舉行新作簽署。每年上海書展都有法學研究領域的新作問世，劉憲權的“高產(chǎn)”和勤勉，也成為了學術界的佳話。

除了慣有的對待學術研究的認真與執(zhí)著，在接受文匯報記者采訪時劉憲權直言，每年一本著作上新，學術“高產(chǎn)”的根本驅動力是他對新生事物的好奇。“像人工智能技術發(fā)展對法律和未來社會帶來的挑戰(zhàn)這類問題，是一個很大的時代課題，可以研究一輩子。”