本文摘要：摘要：大數據和人工智能的發展深刻地影響著我們的社會生活，改變了我們的生產和生活方式，也深刻地影響了社會的方方面面。我們正從互聯網社會走向算法社會，算法通過不同形式，不同程度地介入合同、侵權行為、公司治理、保險合同、證券交易等整個私法領域。在人工智能
摘要：大數據和人工智能的發展深刻地影響著我們的社會生活，改變了我們的生產和生活方式，也深刻地影響了社會的方方面面。我們正從互聯網社會走向算法社會，算法通過不同形式，不同程度地介入合同、侵權行為、公司治理、保險合同、證券交易等整個私法領域。在人工智能場景的算法社會中，形成了算法消費者群體。討論算法如何影響法律行為效力的前提，關鍵在于算法是否會影響行為人的意思表示。算法是針對數據的一系列程序邏輯，該程序邏輯是在自然語言基礎上建構起來的。算法具有一定的學習能力，可以通過大數據不斷地進行深度學習，但這并不是認知層面的學習，更不是指的人類學習。算法的本相是一種基于布爾代數的程序性“彈珠迷宮游戲”，其不符合民法中意思表示結構。通過自動化決策的算法系統作出的意思表示，仍是人類意思表示的延伸。算法使用者基于大數據和算法鴻溝形成了算法權力，將對意思表示制度造成影響。算法不會對法律行為效力制度造成根本性挑戰，但在錯誤、欺詐制度的具體構成要件中需要進行重新解釋。在解釋時，需要區分算法的使用人是表意方還是相對人的不同場景進行討論。在算法社會中，消費者向算法消費者演進，并作為一種消費者的新類型。為回應現有私法框架對于算法消費者保護不足，應當調整《保險法》中如實告知義務的模式，《消費者權益保護法》需重塑經營者與消費者之間的權利義務;在商事金融領域，利用算法的金融機構將被賦予更高的注意義務。算法消費者保護應當考慮多維度的因素，一方面從個人信息保護體系和將信息信義義務作為企業社會責任等方面進行;另一方面通過構建算法透明度制度、算法備案制、算法倫理等規制算法的全方位監督體系。通過法律規制算法的實質，是監管算法使用人(如算法型企業或平臺)在網絡交易或經營過程中如何規范與合理地使用算法。當前關于人工智能的研究，應回歸學術理性，避免盲目跟風式的玄幻主義法學。算法時代中算法消費者保護的核心與關鍵在于，如何在個人信息保護、規制算法和算法企業發展之間的尋求利益平衡點。
關鍵詞：人工智能;法律行為;算法消費者;信息信義義務;算法規制
一、問題的提出：人工智能時代的疑問
自2016年AlphaGo接連戰勝人類圍棋高手之后，全世界刮起了一陣“人工智能”風潮，人工智能(AI)在各個行業、產業和環節得以運用廣泛。甚至有學者斷言，因為大數據和人工智能的發展深刻地影響著我們的社會生活，改變了我們的生產和生活方式，也深刻地影響了社會的方方面面，我們已經進入人工智能的新時代[1]。但是，人工智能時代也可能面臨許多隱憂，例如在當今生活中層出不窮的“大數據殺熟”、網絡評分數據抄襲、廣告精準推薦、無人駕駛等新問題。
目前人工智能處于何種階段，值得思考。在探討人工智能法律關系產生影響或挑戰時，必須掌握人工智能的核心與本質。當前的人工智能本質是算法和數據，因為“數據+算法”被視為人工智能技術開發的核心[2]，也有學者指出，人工智能是能使計算機學習、分析和決策的算法[3]。此時，我們需要以算法為分析著力點回歸到法律框架下進行討論。例如，在私法領域中算法與法律行為關系如何?在此前提下，我國現行私法制度應該如何對算法造成的制度影響進行法律回應?
二、算法在私法領域中的作用及其本質
(一)私法領域下算法的應用
算法在當前網絡環境下運用非常普遍，如網絡服務商通過算法收集用戶在臉書、推特、微博或知乎等社交媒體網站，或文本博客和其他在線購物網站上留下的網絡瀏覽痕跡等數據，以預測消費者的偏好，進行精準廣告推送和推薦個性化產品，甚至實施誘導消費的行為。通常情況下，網絡服務商等企業利用算法，為用戶消費者提供上述“個人定制”交易。有的算法幫助消費者做出市場交易決策。也還有的算法可以自動識別需求，搜索最佳購買決策并執行交易[4]�；谒惴ㄔ谒椒I域的廣泛應用，甚至出現了所謂的“算法合同”(AlgorithmContract)。除了上述的一般民事交易外，算法在商事領域也發揮著重要作用。
首先，算法逐漸參與公司決策管理過程。早在2014年5月，香港創投公司(DKV)任命了一套名為Vital的算法作為董事會成員，Vital會根據候選公司的財務狀況、臨床試驗和知識產權等大量資料進行分析，并據此為公司提出投資建議[5]。Vital被公認為“全球首家人工智能公司董事”，但嚴格說，Vital并沒有獲得香港公司法中公司董事的地位，公司的董事會成員將其簡單地視為“具有觀察員地位的董事會成員”[6]。
其次，算法在保險領域也逐漸盛行。2018年9月19日，美國歷史最悠久的壽險公司之一約翰·漢考克(JohnHancock)作出了根本性的改變：它停止提供按年齡、健康史、性別和就業歷史等傳統人口統計數據來定價的壽險。轉而開始通過可穿戴醫療設備、智能手機應用程序和網站，根據與投保人的互動程度來定價[7]。
最后，人工智能在金融法和證券法領域也有所創新。在商事金融交易行為中，從金融科技到科技金融的轉變，體現出科技在金融交易中的主導地位。其實，算法很早就開始介入金融交易行為，如薦股軟件等智能投顧系統(Robo-Adviser)。目前智能投顧系統可以做到根據服務對象的特征或偏好，給出個性化的投資建議，但不進行交易;也可以為服務對象提供交易服務，包括完全自動交易、人工投資顧問協助交易和執行交易[8]。
又如，在證券市場電子化交易背景下出現了與一般程式化交易更為復雜的“算法交易(AlgorithmicTrading)”，即在程序化交易的基礎上，加入特殊的算法交易策略，該算法交易實際上是將交易經驗、交易策略、對市場環境的適應等知識和智慧固化到算法交易程序之中，從而降低大單交易的市場沖擊成本，以及在整個交易中獲得最優的成交價格[9]。
無論是智能投顧系統，還是證券交易中的算法交易，都可能存在被濫用或操縱的風險，此時需要界定算法在其中扮演何種角色。基于此，算法已經在不同形式和不同程度地介入合同、侵權行為、公司治理、保險合同、證券交易等整個私法領域。算法不僅被網絡服務商所利用，有時候也可能幫助消費者作出消費決策，甚至可以在消費者授權或設置參數和偏好的情況下通過算法程序直接進行交易。以上的線上行為在法律上表現為“算法合同”(AlgorithmicContracts)，從而形成了算法消費者(AlgorithmicConsumers)群體。所以，探究算法在私法領域中扮演何種角色十分重要。
(二)回歸算法的本原：彈珠迷宮游戲
人工智能的本質是算法和數據，算法是對數據的一系列程序邏輯，該程序邏輯是在自然語言基礎上建構起來的。自然語言是一種上下文相關的信息表達和傳遞的方式，人工智能機器的運作是將自然語言用算法邏輯來實現，但這并不是通過電腦模擬人腦。人工智能(計算機)的自然語言處理，是為自然語言這種上下文相關的特性建立數學模型，亦即統計語言模型，這是當今將人工智能廣泛應用在機器翻譯、語音識別、人臉識別、圖像識別等領域的基礎[10]15-39�？傊斯ぶ悄艿膽貌⒉皇呛唵蔚啬M人腦，而是通過數學模型對自然語言進行處理，以算法的方式運行的程序。
當今人工智能的成功也不是仿生學的成功，其成功靠的是數學和算法。即使是當今所謂的“人工神經網絡”和基于深度學習的Google大腦，也只是使用了一些與生物學相關的名詞。除此之外，人工神經網絡和人腦沒有任何關系，本質上是一種有向圖(貝葉斯網絡)，是基于數學模型的算法而已[10]254-271。算法的基礎，是基于布爾代數進行的，也就是0和1的二進制。布爾代數雖然非常簡單，但它將邏輯和數學合二為一，開創了今天的數字化時代[10]82-88。
因此，所有算法，無論多復雜，都能分解為三種邏輯運算：且、或、非。算法具有一定的學習能力，可以通過大數據不斷地進行深度學習，但算法學習會受到大數據的影響。符合學派的算法可以得出確定答案，可以變成自主決策系統[3]，如前述。算法的邏輯結構就是“且”“或”“非”。即使是自主決策系統，也只是在“且”“或”“非”三種邏輯結構中程式化、模塊化地作出決定，就像彈珠迷宮游戲一樣。彈珠之所以能夠走出迷宮，是因為彈珠是在預設的各種程序(線路)中進行，算法就是彈珠迷宮游戲的規則(線路)。
即使是被授予沙特公民的索菲亞也一樣，其本質在于算法和數據的處理，只是其物理的外形表現為人形，但其僅僅是一個由算法主導的硬件系統，其工作的邏輯主要是通過傳感器以及語音識別系統，將人類的自然語言以及外界的感知轉換成機器語言傳達到控制系統，控制系統通過高速計算處理，將信息傳達到驅動系統，從而輸出語言和特定的指令動作。需要指出的是，算法并不是認知層面的學習，尤其不是指人類學習。相反，算法可以視為一種能在未來接收更多數據時調整行為以獲得更佳表現的學習方式[11]。
機器學習涉及許多以不同方式在代碼中得以具象化的模型，當前盛行的機器學習包括神經網絡、決策樹、貝葉斯和邏輯回歸等算法[12]。所謂算法中的自由意志，不過是算法的“目標是實現幾乎最優概率決策”[13]297，現有的算法既不是完全確定也不是完全隨機的。所以，“當今的AI系統絕對不是任何有意義的智能思維機器。相反，人工智能系統通常能夠在沒有智能的情況下產生有用的智能結果。這些系統在很大程度上通過啟發式方法來實現這一目的，方法是檢測數據中的模式，并使用人們專門編碼的知識、規則和信息，將其編碼為可以由計算機處理的形式”[14]。
綜上，算法與法律行為之間的關系，并非是算法系統自主作出法律行為。作為自動化決策的算法系統，此種意思表示仍是人類意思表示的延伸。因為在電子數據交換等所謂自動化意思的情形，表示信息雖經由計算機等工具發出，但因其程序系由表意人為特定目的而設計或設定，仍屬表意人的意思表示[15]。即使是無限強大的計算機，也僅僅是我們意志的延伸。因為每一種算法都是由表示方法、評估和優化三個部分組成，所有的人工智能系統都具備前三個組成部分。這些人工智能系統或者算法可以多樣化作出內容和驚人的計劃，但都僅僅服務于我們人類設定給他們的目標[16]。
三、算法與法律行為的制度影響
如前所述，算法將對私法領域中的法律行為造成深遠影響。如美國著名信息法權威巴爾金(Balkin)教授所說，當機器人和人工智能載體創造利益或造成他人損害時，法律的關鍵問題是如何在人類之間重新分配權利和義務[17]。
四、私法領域中法律行為制度對于算法的法律回應
(一)消費者類型化的細分：從消費者向算法消費者演進1.私法框架下算法與法律行為法教義學闡釋的不足在人工智能場景，算法等智能系統對于法律行為產生的影響：(1)在線上網絡等智能場景所形成的智能合同(SmartContract)等是否為合同的形式;(2)如何從法律行為角度解釋定價算法、應用生成合成類算法、個性化推送類算法、排序精選類算法等算法技術對法律行為效力產生影響。
對于影響一，《民法典》第135條規定了民事法律行為可以采用“書面形式”“口頭形式”“其他形式”等三種方式。該條的“其他方式”為智能合同提供了解釋空間，智能合同可以作為民事法律行為的方式之一。對于影響二，民法典在法律行為效力制度中并無直接回應算法等智能系統影響的規范。筆者認為，算法在法律行為的錯誤制度中的影響，可以從錯誤制度的本質角度予以解釋。
例如，在算法使用人的表意人有過失情形，尤其是算法使用人為企業經營者時，對于重大誤解的要件應當采取表意人過失情形作為消極要件，即算法使用人基于算法錯誤而陷于錯誤，此時表意人有過失時不可行使撤銷權。其次，假如算法在運行過程中發生故障，還可從意思表示到達障礙制度予以解釋。意思表示到達障礙理論認為，到達受阻的意思表示沒有到達，但到達受阻可歸責于受領人的除外[30]。此時在交易過程中如果發生算法錯誤，并且受領人對于到達受阻并無可歸責性，那么作為表意人的算法使用人應該對于發生算法錯誤造成到達受阻承擔風險，即意思表示沒有到達受領人的風險。
在法律行為制度的欺詐認定上，行為人可通過算法對表意人的意思表示造成影響，甚至通過算法分析行為人的網絡軌跡以窺探表意人的內心意思(購買意愿)，此時對于行為人的欺詐認定也應當遵循民法上欺詐的要件，但可以在舉證責任上進行降低要求甚至采取舉證責任倒置的方式，只要算法行為人(使用人)有欺詐的行為即可推定構成欺詐，以保護算法消費者。例如，2019年5月歐盟發布2019/770號指令，針對電子數據和電子服務以及消費者買賣合同作出新規定，該規定除了規定適約性外，在其第12條明確規定了經營者承擔舉證責任的倒置。
因此，在人工智能場景下，隨著大數據和算法的深度發展，作為法律行為效果意思形成前提的信息獲取變得相對容易，繼而造成表意人和相對人在信息地位上的失衡，特別是擁有大數據且又擁有算法能力的大公司，將極大地左右意思自治的空間[31]。但此時并不會對傳統民法上欺詐的構成要件造成根本性沖擊，僅需在認定算法等人工智能載體是否構成欺詐時，在某個要件作特殊性處理即可。即使可據此作出上述法教義學解釋，卻有一種螺絲殼里做道場之困境。并且，在法律行為制度外投保人告知義務和商事金融行為等商事領域中，難以從既定私法框架下通過法教義學闡釋和回應算法的影響。
五、結語：
人工智能的冷思考當前，人工智能已成為學術界，乃至全世界關注的熱點。但是，人工智能的法學研究不是玄學，更不是科幻主義。法學研究應該避免盲目跟風，走出對AI的貨物崇拜，回歸學術研究的理性軌道[49]。
所以，對于人工智能的討論需要回歸其本原，即算法和大數據;對于人工智能討論的范式也需要回歸到法律制度框架下進行，并不能天馬行空地進行“法律假象”，甚至是“臆想”。畢竟“最好的人工智能也無法與普通的4歲小孩匹敵”[13]275，算法只是一種程式性的計算活動，當前的人工智能算法并不能形成有效的意思表示，我們基本可以推導出，當前人工智能的算法在私法領域的運用，僅限于成為人類意思表示延伸的工具。但是，算法使用者基于大數據和算法的使用形成了算法權力，這將對意思表示產生一定影響。
例如，算法通過搜集用戶的網絡瀏覽記錄(痕跡)從而判斷用戶意思表示中的內心意思和交易意思，在此基礎上獲得優勢地位。此時，算法不會對法律行為效力造成根本性挑戰，可以通過錯誤、欺詐等制度中的具體構成要件進行重新解釋;經營者利用算法進行交易時，消保法可重塑經營者與消費者之間的權利義務;在商事金融領域，利用算法的金融機構將被賦予更高的注意義務。在算法時代，在個人層面要完善個人信息保護制度，在企業層面需要利用算法提高經營能力，如何尋求個人信息保護和規制算法之間的平衡點是一項重要的課題。
參考文獻：
[1]王利明.人工智能時代提出的法學新課題[J].中國法律評論,2018(2):1-4.
[2]王利明.人工智能時代對民法學的新挑戰[J].東方法學,2018(3):4-9.
[3]鄭戈.算法的法律與法律的算法[J].中國法律評論,2018(2):66-85.
[4]MichalS.Gal,NivaElkin-Koren.AlgorithmConsumer[J].HarvardJournalofLaw&Technology,2017(2):314.
[5]尤瓦爾·赫拉利.未來簡史[M].林俊宏,譯.北京:中信出版社,2017:290.
[6]FLORIANMÖSLEIN.Robotsintheboardroom:Artificialintelligenceandcorporatelaw[C]//WOODROWBARFIELD,UGOPAGALLO.Researchhandbookonthelawofartificialintelligence.EdwardElgarPublishing,2018:650.
[7]SWEDLOFFRICK.AlgorithmsandAIareradicallychanginginsurance.Regulatorsarebehindthecurve[EB/OL].(2019-06-05)[2020-07-22].
作者：劉穎
轉載請注明來自發表學術論文網：http://www.zpfmc.com/jjlw/28974.html
