国产精品亚洲综合久久,久久6久久66热这里只是精品,日本免费午夜成人福利剧院,精品人妻在线无码

  • 臺(tái)灣網(wǎng)移動(dòng)版

    臺(tái)灣網(wǎng)移動(dòng)版

加強(qiáng)演算法風(fēng)險(xiǎn)全流程治理 創(chuàng)設(shè)演算法規(guī)範(fàn)“中國(guó)方案”

2022-03-01 10:17:00
來(lái)源:央視網(wǎng)
字號(hào)

  2022年3月1日,國(guó)家網(wǎng)際網(wǎng)路信息辦公室、工業(yè)和資訊化部、公安部、市場(chǎng)監(jiān)管總局聯(lián)合發(fā)佈的《網(wǎng)際網(wǎng)路資訊服務(wù)演算法推薦管理規(guī)定》(下文簡(jiǎn)稱《規(guī)定》)正式施行。在大數(shù)據(jù)經(jīng)濟(jì)時(shí)代,演算法是個(gè)人資訊處理者收集和處理數(shù)據(jù)、推送資訊、調(diào)配資源的核心力量。演算法一旦失范,將給國(guó)家利益、社會(huì)公共利益和公民合法權(quán)益帶來(lái)嚴(yán)重威脅。因此,《規(guī)定》的施行具有鮮明的時(shí)代意義和現(xiàn)實(shí)需求。

  演算法是電腦的核心運(yùn)作邏輯,是一套基於設(shè)計(jì)目的的數(shù)據(jù)處理指令的總和,在底層上體現(xiàn)出專業(yè)科技的特點(diǎn)。演算法也是一門賦能技術(shù),應(yīng)用場(chǎng)景為賦能領(lǐng)域,當(dāng)演算法應(yīng)用到具體的商業(yè)模式當(dāng)中,就會(huì)産生應(yīng)用型風(fēng)險(xiǎn)。演算法關(guān)係就是這樣一種“方式”與“領(lǐng)域”的疊加關(guān)係或結(jié)合關(guān)係。因此,演算法規(guī)範(fàn)不能不談 “方式”,演算法的設(shè)計(jì)、測(cè)試、評(píng)估屬於科技活動(dòng),“演算法黑箱”、“演算法霸權(quán)”部分是因科技活動(dòng)本身的不規(guī)範(fàn)所致;演算法規(guī)範(fàn)也不能只談“方式”,因?yàn)檎茄菟惴▽映霾桓F的應(yīng)用場(chǎng)景,使得演算法現(xiàn)實(shí)地影響我們的權(quán)益,影響人的自由發(fā)展。《規(guī)定》充分把握了演算法的內(nèi)生性風(fēng)險(xiǎn)和應(yīng)用型風(fēng)險(xiǎn),有針對(duì)性地設(shè)計(jì)風(fēng)險(xiǎn)防範(fàn)規(guī)則。

  第一,演算法內(nèi)生性風(fēng)險(xiǎn)的控制重點(diǎn)在演算法的設(shè)計(jì)和運(yùn)作階段。演算法的設(shè)計(jì)、測(cè)試、評(píng)估非專業(yè)人士不能為之,這種“排他性”表明演算法活動(dòng)是一項(xiàng)專門技術(shù)。演算法黑箱、演算法歧視等痼疾的産生,部分也源於科技活動(dòng)本身的複雜性。因此,對(duì)科技活動(dòng)的規(guī)範(fàn),需要從科技風(fēng)險(xiǎn)防範(fàn)的角度設(shè)計(jì)專門規(guī)則。《規(guī)定》鼓勵(lì)使用演算法傳播正能量、抵制違法和不良資訊,不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等有違倫理道德的演算法模型,推動(dòng)演算法向上向善。表明瞭作為科技活動(dòng)的演算法研發(fā)不能僅有工具理性,必須具有價(jià)值理性。

  在具體規(guī)則層面,《規(guī)定》也側(cè)重於從技術(shù)角度,直接規(guī)範(fàn)演算法設(shè)計(jì)和運(yùn)作。例如,第9條第1款要求演算法推薦服務(wù)提供者建立健全用於識(shí)別違法和不良資訊的特徵庫(kù),完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程式;第10條要求演算法推薦服務(wù)提供者加強(qiáng)用戶模型和用戶標(biāo)簽管理;第12條鼓勵(lì)演算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略,並優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性等等。

  特別值得關(guān)注的是,《規(guī)定》第24條規(guī)定演算法備案制度,要求演算法推薦服務(wù)提供者提供演算法類型、演算法自評(píng)估報(bào)告、擬公示內(nèi)容等資訊。科技活動(dòng)風(fēng)險(xiǎn)控制首推風(fēng)險(xiǎn)評(píng)估與實(shí)驗(yàn)數(shù)據(jù)記錄。如果演算法活動(dòng)缺乏風(fēng)險(xiǎn)評(píng)估,則使得風(fēng)險(xiǎn)無(wú)法從源頭控制;如果演算法設(shè)計(jì)和檢驗(yàn)缺乏記錄,則監(jiān)管機(jī)構(gòu)無(wú)法進(jìn)行有效地評(píng)估、追溯和驗(yàn)證複雜演算法。備案制度一定意義上倒逼演算法推薦服務(wù)提供者積極進(jìn)行風(fēng)險(xiǎn)評(píng)估和全流程記錄,既能督促運(yùn)營(yíng)者在整個(gè)演算法活動(dòng)階段考慮演算法合規(guī)問題,也有助於幫助執(zhí)法機(jī)關(guān)監(jiān)督演算法活動(dòng)。

  第二,演算法應(yīng)用型風(fēng)險(xiǎn)的治理覆蓋了演算法運(yùn)作的全生命週期。演算法既是科學(xué)技術(shù),也是賦能手段,其除了具備科技固有的風(fēng)險(xiǎn)之外,也因在商業(yè)和公共事業(yè)領(lǐng)域的嵌入式應(yīng)用,對(duì)源於工業(yè)時(shí)代立法模式和治理模式不斷衝擊,引發(fā)了諸多治理痛點(diǎn)。在應(yīng)用環(huán)節(jié),我們也要貫徹程式性控制。但演算法應(yīng)用有著不同於演算法研發(fā)的特殊性:演算法應(yīng)用直接作用於演算法相對(duì)人。演算法應(yīng)用將影響演算法相對(duì)人的合法權(quán)益——演算法針對(duì)演算法相對(duì)人的訴求做出決定。為了解決應(yīng)用型風(fēng)險(xiǎn),《規(guī)定》針對(duì)未成年人、老年人、勞動(dòng)者和大數(shù)據(jù)殺熟等場(chǎng)景,分別配置相應(yīng)的行為規(guī)則(第19條至第21條)。為了實(shí)現(xiàn)自下而上的演算法治理,《規(guī)定》還通過權(quán)利路徑,賦予個(gè)人對(duì)抗演算法決策的權(quán)利。

  《規(guī)定》第17條第1款規(guī)定:“演算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特徵的選項(xiàng),或者向用戶提供便捷的關(guān)閉演算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉演算法推薦服務(wù)的,演算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)?!毕噍^于《個(gè)人資訊保護(hù)法》第24條第2款的規(guī)定,本條進(jìn)一步明確規(guī)定了演算法應(yīng)用拒絕權(quán)。

  此外,第17條第2款規(guī)定:“演算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇或者刪除用於演算法推薦服務(wù)的針對(duì)其個(gè)人特徵的用戶標(biāo)簽的功能?!痹摋l規(guī)定為我國(guó)首創(chuàng),能夠更全面地保護(hù)演算法相對(duì)人的利益。演算法相對(duì)人可能並不是要求演算法使用人停止推薦服務(wù),而是禁止推定特定類型的服務(wù)。通過賦予演算法相對(duì)人刪除標(biāo)簽的權(quán)利,能夠更全面的滿足用戶的要求。

  同時(shí),《規(guī)定》第17條第3款還規(guī)定:“演算法推薦服務(wù)提供者應(yīng)用演算法對(duì)用戶權(quán)益造成重大影響的,應(yīng)當(dāng)依法予以説明並承擔(dān)相應(yīng)責(zé)任。”比如,在動(dòng)態(tài)定價(jià)當(dāng)中,如果推薦給用戶的價(jià)格偏高,可能構(gòu)成對(duì)用戶權(quán)益的重大影響。用戶可以要求演算法推薦服務(wù)提供者給予説明。如果構(gòu)成侵犯民事權(quán)益的,演算法推薦服務(wù)提供者應(yīng)根據(jù)法律規(guī)定承擔(dān)相應(yīng)責(zé)任。

  演算法風(fēng)險(xiǎn)的全流程治理,在“風(fēng)險(xiǎn)-規(guī)制”框架下尋找新的平衡點(diǎn)和組合方式。演算法在本質(zhì)上是處理數(shù)據(jù)的代碼,是一項(xiàng)應(yīng)用科學(xué)技術(shù)。但技術(shù)並非中立,尤其是當(dāng)演算法處理的不是“物”、而是“個(gè)人資訊”時(shí),演算法活動(dòng)就兼具社會(huì)活動(dòng)屬性,內(nèi)涵倫理和社會(huì)風(fēng)險(xiǎn)。因此,演算法規(guī)範(fàn)難題部分來(lái)源於科技的專業(yè)性和工具性,部分來(lái)源於應(yīng)用場(chǎng)景當(dāng)中的價(jià)值複雜性?!兑?guī)定》針對(duì)科技風(fēng)險(xiǎn)與應(yīng)用風(fēng)險(xiǎn)設(shè)計(jì)規(guī)則,在“風(fēng)險(xiǎn)-規(guī)制”框架下創(chuàng)設(shè)了演算法規(guī)範(fàn)的中國(guó)方案。

 ?。ㄗ髡撸毫咒∶瘢憬髮W(xué)光華法學(xué)院講師,工業(yè)與資訊化法治研究院研究員)

[責(zé)任編輯:孫海倫]
  • 
    <small id="mmm0m"></small>
  • <tfoot id="mmm0m"></tfoot>
  • <sup id="mmm0m"></sup>