歐盟AI監(jiān)管太嚴(yán)？麻省理工科學(xué)家為英語測(cè)試網(wǎng)站站臺(tái)

據(jù)外媒報(bào)道，麻省理工學(xué)院的科學(xué)家表示，歐盟對(duì)人工智能的監(jiān)管提案（ EU proposal to regulate AI）將會(huì)影響 Duolingo 的技術(shù)創(chuàng)新。

Duolingo 是可供免費(fèi)下載的學(xué)習(xí)外語的應(yīng)用程序，目前已成為世界上學(xué)習(xí)第二語言最流行的方式。該公司在上周的 IPO 中高達(dá) 34 億美元。

歐盟在今年四月祭出了史上最嚴(yán)的人工智能監(jiān)管提案，按照風(fēng)險(xiǎn)的高低，將人工智能應(yīng)用場(chǎng)景分為“不可接受、高、有限、極小”四個(gè)風(fēng)險(xiǎn)等級(jí)，以保護(hù)歐盟民眾的安全和正當(dāng)權(quán)利不受侵害。此次的 Duolingo 被評(píng)為了高風(fēng)險(xiǎn)等級(jí)（high-risk），原文作者認(rèn)為這會(huì)影響企業(yè)對(duì)類似的教育行業(yè)（機(jī)構(gòu)/技術(shù)）的投入。

一、歐盟認(rèn)為該程序存在高風(fēng)險(xiǎn)

Duolingo 中有一個(gè)功能是英語測(cè)試，使用該功能需要使用到人工智能系統(tǒng)。考生不需要注冊(cè)，僅需要一個(gè)帶有攝像頭的聯(lián)網(wǎng)設(shè)備，在經(jīng)過一個(gè)小時(shí)的考試之后就能完成測(cè)試。測(cè)試可以防止欺詐行為（攝像頭的作用），并評(píng)估（考生的）讀寫能力、會(huì)話和理解能力。該英語測(cè)試會(huì)在 2 天內(nèi)出結(jié)果，而且成本不到 50 美元。

歐盟的一項(xiàng)提案將使用人工智能“評(píng)估參加教育機(jī)構(gòu)一般測(cè)試的考生”的系統(tǒng)歸入高風(fēng)險(xiǎn)的類別。這個(gè)標(biāo)簽適用于在測(cè)試中使用人工智能的情況，例如個(gè)性化測(cè)試（即時(shí)生成適合考生技能水平的問題）和評(píng)分。這意味著 Duolingo 將會(huì)受到該提案的影響，有可能募資減少。

二、高風(fēng)險(xiǎn)標(biāo)簽阻礙了市場(chǎng)投資

在歐盟的人工智能監(jiān)管提案通過后，高風(fēng)險(xiǎn)人工智能系統(tǒng)的供應(yīng)商（如果想進(jìn)入市場(chǎng)）將必須根據(jù)歐盟提案中的規(guī)則，采取一系列的步驟：數(shù)據(jù)和數(shù)據(jù)治理、透明度、監(jiān)督、穩(wěn)健性、準(zhǔn)確性和安全性等。該提案涵蓋了對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的 10 頁要求及其供應(yīng)商應(yīng)盡的義務(wù)。

原作者認(rèn)為，在高風(fēng)險(xiǎn)應(yīng)用領(lǐng)域，基本上所有的科技企業(yè)家和投資者都會(huì)抵制（反感）這些昂貴且耗時(shí)的要求，并將他們的精力投入到其他的應(yīng)用領(lǐng)域中。在此情況下，歐盟將在重要活動(dòng)等方面的技術(shù)創(chuàng)新減少。但歐洲民眾也都知道，人工智能需要長(zhǎng)久的研究時(shí)間（人工智能的研究不是一蹴而就的）。這將會(huì)影響歐洲部分企業(yè)的競(jìng)爭(zhēng)力。

三、讓門外漢也能創(chuàng)新

越來越強(qiáng)大的科技創(chuàng)新影響了民眾的生活，甚至有些可能已經(jīng)“越界”。一所學(xué)校認(rèn)為，某些技術(shù)可能過于強(qiáng)大（影響了歐盟民眾的安全），因此需要大量的預(yù)先規(guī)劃（討論）和持續(xù)監(jiān)督。這是“上游治理（upstream governance）”方法，歐盟提議的人工智能提案就是一個(gè)典型的例子。

另一種方法通常被稱為“未授權(quán)的創(chuàng)新（unauthorized innovation）”。該方法允許即使是小型的創(chuàng)業(yè)團(tuán)隊(duì)或者預(yù)算有限的門外漢（outsider）都可以進(jìn)行嘗試創(chuàng)新并改進(jìn)產(chǎn)品（比如一開始的 Duolingo）。

原作者認(rèn)為這是推動(dòng)創(chuàng)新的最佳方式，讓創(chuàng)新者的發(fā)揮空間受限或者要求他們承擔(dān)前期的高昂成本并不是個(gè)好主意，這將導(dǎo)致（創(chuàng)新）的步伐放緩，成功的案例也有可能變少。

結(jié)語：嚴(yán)管不利于科技創(chuàng)新

隨著歐盟的《通用數(shù)據(jù)保護(hù)條例（General Data Protection Regulation）》于 2018 年 5 月生效，谷歌的市場(chǎng)份額有所增加，企業(yè)在歐洲的投資有所減少。原作者分析該現(xiàn)象后認(rèn)為，歐盟對(duì)人工智能進(jìn)行監(jiān)管提議將會(huì)阻礙歐盟的科技創(chuàng)新。

科技是在不斷發(fā)展的，有些時(shí)候過于強(qiáng)大導(dǎo)致了民眾對(duì)于科技的抗拒心理。但科技創(chuàng)新發(fā)展和民眾的安全不應(yīng)該是二分法，如何取得兩邊的平衡點(diǎn)將是未來治理的關(guān)鍵。

文章來源于：http://m.ygpos.cn/uploadfile/2021/0726/20210726141007454G.html