由 AlphaGo 起頭步入人們視野，人工智能公司 DeepMind 的一言一動(dòng)老是飽受存眷，而在客歲，DeepMind 取英國(guó)國(guó)度醫(yī)療服務(wù)體系 NHS 旗下基金會(huì) Royal Free London 簽訂了為期五年的條約，NHS 旗下的三家倫敦病院將向 DeepMind 分享 172 萬(wàn)病人的醫(yī)療數(shù)據(jù)。
這自然引發(fā)了對(duì)隱私題目的評(píng)論辯論和擔(dān)心，DeepMind 一向宣稱隱私取信賴是它們主要斟酌的題目，一切數(shù)據(jù)會(huì)被加密且不會(huì)取母公司谷歌分享，但依舊有很多學(xué)者質(zhì)疑 DeepMind 此言的真實(shí)性。
個(gè)中劍橋大學(xué)學(xué)者 Julia Powles 當(dāng)屬阻擋聲音最劇烈的一個(gè)，正在取 Hal Hodson 合寫(xiě)的一篇名為《Google DeepMind and healthcare in an age of algorithms》中，她質(zhì)疑 DeepMind 正在數(shù)據(jù)及隱私回護(hù)上的志愿。
正在說(shuō)起這一爭(zhēng)端之前，我們先和 AI 高新科技批評(píng)回憶一下 DeepMind 取 NHS 協(xié)作的大抵進(jìn)程。
正在 2014 年 7 月，Royal Free London 旗下公立醫(yī)院的大夫取谷歌 DeepMind 公司入手下手有了開(kāi)端接觸。值得一提的是，DeepMind 此前并沒(méi)有任何供應(yīng)康健效勞的閱歷或經(jīng)歷。
而在 2014 年 11 月，Royal Free 的一些敏感醫(yī)療數(shù)據(jù)就曾經(jīng)入手下手傳輸?shù)?DeepMind 的所持有的第三方服務(wù)器上。而 NHS 作為得到 Royal Free 大批基金支撐的英國(guó)國(guó)度醫(yī)療服務(wù)體系，自然還掌控著英國(guó)百姓康健信息的大批數(shù)據(jù)。
隨后正在 2016 年 1 月，DeepMind 公開(kāi)公布取 Royal Free 協(xié)作，將行使后者所給予的數(shù)據(jù)開(kāi)辟一款名為 Streams 的應(yīng)用以輔佐急性腎損傷 (AKI)。
2016 年 9 月，DeepMind 三大創(chuàng)始人之一 Mustafa Suleyman 取 Royal Free 的 Subir Mondal 簽訂了一份八頁(yè)的信息同享和談（ISA），這份時(shí)效五年的和談表現(xiàn)，Royal Free 是數(shù)據(jù)的預(yù)期節(jié)制方，而 DeepMind 只是一個(gè)數(shù)據(jù)處理方。
而在 2016 年 10 月，DeepMind 聲明公司將回護(hù) Royal Free 病人的敏感數(shù)據(jù)，比方 AKI 的治理數(shù)據(jù)取直接照顧護(hù)士?jī)?nèi)容，它們暗示，這一些數(shù)據(jù)的局限比起和談中所束縛的內(nèi)容局限只會(huì)更窄，不容易更寬。谷歌還夸大 DeepMind 只是在為掌握腎臟疾病開(kāi)辟相干運(yùn)用。
但那樣的聲明其實(shí)不能讓 Julia Powles 中意，她在講演中指出了 DeepMind 也許存在的三個(gè)題目：
首先是 DeepMind 是不是能夠被視為一個(gè)數(shù)據(jù)處理方，并直接對(duì)病人照顧護(hù)士產(chǎn)生影響的題目。按照 DeepMind 的官方材料顯現(xiàn)，Royal Free 至少有 26 名大夫及護(hù)士正在利用 Streams，均勻每天會(huì)向 11 個(gè)置身 AKI 風(fēng)險(xiǎn)的病人收回安康警報(bào)。
Powles 正在呈報(bào)中提到，「為什么那樣一家由數(shù)據(jù)發(fā)掘兼告白巨子谷歌全資擁有的 AI 公司，可以構(gòu)建一個(gè)以數(shù)據(jù)集成用戶為根本的 App？不論是 DeepMind 照舊 Royal Free London，都沒(méi)有對(duì)這個(gè)題目開(kāi)展正面答復(fù)。」
其次，數(shù)據(jù)如安在法令保護(hù)下舉行利用？目前所收集到的聲明都只是兩個(gè)協(xié)作機(jī)構(gòu)的偏聽(tīng)偏信，她并沒(méi)有相識(shí)到任何關(guān)于數(shù)據(jù)利用的監(jiān)視文件或是具有法令約束力的客觀文件。Powles 默示，民眾并沒(méi)有相識(shí)數(shù)據(jù)去處的渠道或權(quán)益，是以還沒(méi)法得知他們所說(shuō)的是不是屬實(shí)。
第三點(diǎn)是，相干的設(shè)備及算法是不是已依照法例正在羈系機(jī)構(gòu)得到受權(quán)/答應(yīng)？依據(jù) DeepMind 及 Royal Free 的聲明，它們采取的是一個(gè)為 AKI 效勞的「國(guó)有算法」（national algorithm），它可以對(duì)血液程度舉行測(cè)試，并融合 Royal Free 的數(shù)據(jù)（已正在 DeepMind 存儲(chǔ)、使用及傳輸），決議是不是需要向大夫的挪動(dòng)設(shè)備發(fā)送相干的安康警報(bào)。依據(jù) Powles 的認(rèn)識(shí)，DeepMind 并沒(méi)有得到研討核準(zhǔn)機(jī)構(gòu)（HRA）或是保密咨詢機(jī)構(gòu)（CAG）的受權(quán)和答應(yīng)。
作為回應(yīng)，DeepMind 取 Royal Free 團(tuán)結(jié)揭橥了一項(xiàng)聲明，指出 Julia Powles 的這篇講述「完整曲解了 NHS 若何操縱技能處置懲罰數(shù)據(jù)的事實(shí)。」
「這篇文章犯了一系列龐大的事實(shí)和剖析毛病，并且臆想我們并沒(méi)有簽訂類似的數(shù)據(jù)和談。……事實(shí)上，該國(guó)的每個(gè)信托機(jī)構(gòu)城市按照一樣的法令取羈系軌制，利用 IT 體系匡助臨床大夫獵取病人的以往及當(dāng)前的信息。"
看熱鬧沒(méi)有嫌事大的 BBC 記者 Jane Wakefield 還約請(qǐng)兩邊正在一個(gè)公開(kāi)場(chǎng)合開(kāi)展回應(yīng)，并默示，「自然，我們極度體貼谷歌取 DeepMind 進(jìn)軍醫(yī)療行業(yè)，究竟它此前并沒(méi)有涉足過(guò)，別的，這一些公司并沒(méi)有屬于傳統(tǒng)專業(yè)的衛(wèi)生信息技術(shù)取基礎(chǔ)設(shè)施提供商，這一些行為若是沒(méi)有加以澄清和闡明，無(wú)疑會(huì)損害公家的情感。」
不可否認(rèn)的是，NHS 切實(shí)其實(shí)曾取一些第三方企業(yè)簽訂了一系列信息同享協(xié)定，DeepMind 此前曾揣測(cè)協(xié)定的金錢到達(dá) 1500 項(xiàng)，但 NHS 只是默示其實(shí)不正確，但沒(méi)有給出更具體的數(shù)據(jù)。
憑據(jù)掌握，現(xiàn)階段該使用主如果由英國(guó)信息辦公室（ICO，Information Commissioner's Office）舉行觀察，而國(guó)立數(shù)據(jù)羈系機(jī)構(gòu)（NDG）還對(duì)數(shù)據(jù)舉行監(jiān)控。ICO 近來(lái)則默示，他們的觀察已靠近序幕，并宣稱會(huì)和 NDG 持續(xù)維持協(xié)作，取 Royal Free 及 DeepMind 舉行按期聯(lián)系，請(qǐng)求取得 Stream 的開(kāi)辟信息。
DeepMind 正在 2 月份還已示意，坦承期望取病人豎立更友愛(ài)的接洽，并樂(lè)意設(shè)立相干的評(píng)論辯論社區(qū)。它正在一項(xiàng)關(guān)于病人到場(chǎng) Streams 項(xiàng)目標(biāo)計(jì)謀文件中還說(shuō)起，「若是病人取大夫可以協(xié)商做出決議，結(jié)果會(huì)變得更好。」