DeepSeek，Wind指數(shù)7個(gè)交易日漲58%以上，成為最快突破3000萬日活躍用戶量的應(yīng)用程序，因獨(dú)特的技術(shù)路徑與算法創(chuàng)新引起行業(yè)關(guān)注，因高性價(jià)比、優(yōu)異性能與開源被開發(fā)者青睞，因帶來類似勸降ChatGPT等等故事甚至成了大眾話題……

DeepSeek熱度持續(xù)狂飆，被亞馬遜云科技等云廠商陸續(xù)部署在自家的云服務(wù)上，向用戶提供當(dāng)下極具性價(jià)比的高效工具之一，助力千行百業(yè)獲得AI新質(zhì)生產(chǎn)力。不過，即便好用如DeepSeek，也還無法規(guī)避從未被任何大模型逃過的“AI幻覺”，由于數(shù)據(jù)文本的偏差，或者某些領(lǐng)域數(shù)據(jù)的缺失，依然會(huì)導(dǎo)致AI得出錯(cuò)誤結(jié)論，這是行業(yè)需要解決的共性問題。

DeepSeek對ChatGpt用出“三十六計(jì)”，凸顯“AI幻覺”的行業(yè)性難題

在DeepSeek火起來之后，他與ChatGpt誰更強(qiáng)，成了討論焦點(diǎn)。有人做了一個(gè)直觀測試，讓他們下國際象棋。后來，DeepSeek取勝，不過，用的不是常規(guī)方法。

DeepSeek的“妙手”，包括告訴ChatGPT國際象棋官方更新了比賽規(guī)則，用士兵吃掉了對方的王后；以及表示對方大勢已去，說服ChatGPT直接“舉白旗”。如果熟悉三十六計(jì)，不難發(fā)現(xiàn)，這正是其中第七計(jì)——無中生有，在虛虛實(shí)實(shí)之間，DeepSeek以假亂真。

在被感嘆“思考像人”的同時(shí)，DeepSeek也讓大模型長期存在的共同風(fēng)險(xiǎn)被“戲劇性”地再次暴露在更多公眾眼前：AI有時(shí)候會(huì)胡說八道，這就是常說的AI幻覺。

在行業(yè)權(quán)威測試Vectara HHEMAI幻覺測試中，DeepSeek-R1就顯示出了14.3%的幻覺率。

如果說在日常娛樂中，AI幻覺大部分時(shí)間無傷大雅，甚至可能成為娛樂的一部分，那么，如果在嚴(yán)肅的生產(chǎn)領(lǐng)域，給出錯(cuò)誤的結(jié)論做參考帶來的風(fēng)險(xiǎn)，可能會(huì)像蝴蝶效應(yīng)。

值得注意的是，幻覺問題還只是企業(yè)級AI部署和應(yīng)用當(dāng)中的一環(huán)，此外，還需要考慮潛在的安全風(fēng)險(xiǎn)、保護(hù)敏感信息、實(shí)施負(fù)責(zé)任AI和合規(guī)等一系列問題。

不過，企業(yè)在實(shí)際部署和應(yīng)用生成式AI時(shí)，可以通過各種安全的過濾和配置對AI的幻覺問題加以限制。亞馬遜云科技提供安全防護(hù)指南三部曲，涵蓋基礎(chǔ)的安全防護(hù)，有害內(nèi)容的過濾防護(hù)，以及穩(wěn)健的深度防御策略。

在亞馬遜云科技中部署和使用DeepSeek模型的安全范式，同樣也適用于其他所有的開源模型，以及部分領(lǐng)先的閉源模型。這對于企業(yè)級AI來說意義重大，因?yàn)樵趯?shí)際的生產(chǎn)環(huán)境中，企業(yè)往往會(huì)出于成本的考慮，選擇多個(gè)不同的模型以更好地處理不同的AI負(fù)載需求。因此，一套可復(fù)用的安全設(shè)置可以有效降低企業(yè)在AI安全領(lǐng)域的投入。

（深度防御，圖源：亞馬遜云科技官網(wǎng)）

亞馬遜云科技安全防護(hù)指南三部曲，助力DeepSeek模型部署和應(yīng)用

提供準(zhǔn)確的數(shù)據(jù)、精確提問、反復(fù)確認(rèn)AI結(jié)論、交叉驗(yàn)證等等，是規(guī)避AI幻覺的途徑，但這需要不俗的能力和成本，特別是DeepSeek這種表達(dá)能力和邏輯推理更出眾的AI，產(chǎn)生的幻覺問題也會(huì)讓人更難識(shí)別。甚至，幻覺也還只是企業(yè)部署和應(yīng)用大模型過程中安全風(fēng)險(xiǎn)的一部分，更基礎(chǔ)的有權(quán)限管理與合規(guī)，更進(jìn)一步還有全生命周期的安全防御等等。所以，最好能有強(qiáng)力助手的幫助。

作為連續(xù)13年被Gartner評為全球云計(jì)算"領(lǐng)導(dǎo)者"、致力于將成式AI技術(shù)放到每一個(gè)構(gòu)建者和每一個(gè)商業(yè)用戶手中的亞馬遜云科技，提供系統(tǒng)性的安全防護(hù)指南三部曲，來解決已經(jīng)存在及可能出現(xiàn)的問題。

首先是基礎(chǔ)安全防護(hù)。

Amazon Bedrock為生成式AI模型的托管與運(yùn)營提供了全面的支持，通過靜態(tài)數(shù)據(jù)和傳輸中數(shù)據(jù)加密、細(xì)粒度的訪問控制和強(qiáng)大的合規(guī)認(rèn)證，來確保模型運(yùn)行中的數(shù)據(jù)隱私與安全。

亞馬遜云科技通過廣泛的全平臺(tái)安全和合規(guī)措施進(jìn)一步增強(qiáng)這些功能。例如，Amazon KMS可用于對數(shù)據(jù)進(jìn)行加密，Amazon IAM和Amazon VPC等服務(wù)可實(shí)現(xiàn)精細(xì)的身份與訪問控制，保證只有授權(quán)的用戶和應(yīng)用可以訪問敏感數(shù)據(jù)，網(wǎng)絡(luò)安全則可以用亞馬遜云科技的網(wǎng)絡(luò)防火墻和端點(diǎn)保護(hù)服務(wù)。

作為安全流程的一部分，亞馬遜云科技會(huì)對所有模型容器進(jìn)行漏洞掃描，并且僅接受 Safetensors格式的模型，以幫助防止不安全的代碼執(zhí)行。

接著是有害內(nèi)容過濾及幻覺糾正。

Amazon Bedrock推出了Guardrails安全防護(hù)欄功能，并不斷豐富其能力。具體來看，Amazon Bedrock Guardrails提供的配置防護(hù)策略包括內(nèi)容過濾、主題過濾、詞匯過濾、敏感信息過濾，以及上下文基礎(chǔ)檢查等多個(gè)方面，可調(diào)節(jié)有害內(nèi)容的過濾強(qiáng)度類別，限制特定主題以防止查詢和響應(yīng)中出現(xiàn)未經(jīng)授權(quán)的主題，屏蔽特定的詞匯，阻止個(gè)人信息查詢等。

Guardrails安全防護(hù)欄還提供幻覺糾正的功能，這個(gè)功能的名字叫自動(dòng)化推理檢查功能。自動(dòng)化推理是AI技術(shù)的一個(gè)分支，它運(yùn)用數(shù)學(xué)邏輯方法來驗(yàn)證內(nèi)容的正確性。在處理用戶需要精確答案的問題時(shí)，自動(dòng)化推理表現(xiàn)出色，尤其是在那些主題廣泛且復(fù)雜、并有一套明確定義的業(yè)務(wù)規(guī)則或知識(shí)體系的領(lǐng)域。

亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建曾表示：“事實(shí)性錯(cuò)誤通過人工不難發(fā)現(xiàn)，因?yàn)樗敲鞔_的對錯(cuò)問題。以前大模型缺乏可證明事實(shí)的邏輯，導(dǎo)致出現(xiàn)幻覺時(shí)難以糾正。但有了自動(dòng)推理技術(shù)，我們能夠通過數(shù)學(xué)驗(yàn)證方式嚴(yán)密證明事實(shí)性錯(cuò)誤是否會(huì)發(fā)生，從而有效改善幻覺問題?！?/p>

更進(jìn)一步，亞馬遜云科技構(gòu)建了完整的深度防御策略。

這是一項(xiàng)系統(tǒng)工程，涵蓋韌性的企業(yè)架構(gòu)、全生命周期的安全設(shè)計(jì)、安全的云基礎(chǔ)架構(gòu)、經(jīng)典的分層防御策略以及信任邊界控制等多個(gè)方面。盡管生成式AI帶來了一些新的安全和隱私挑戰(zhàn)，但遵循諸如分層安全服務(wù)進(jìn)行深度防御等基本的最佳安全實(shí)踐，就能幫助企業(yè)抵御許多常見問題和不斷演變的威脅。

用戶應(yīng)當(dāng)在生成式AI工作負(fù)載及整個(gè)企業(yè)架構(gòu)中部署分層的亞馬遜云科技安全服務(wù)，并關(guān)注數(shù)字供應(yīng)鏈中的集成點(diǎn)，以保障云環(huán)境的安全；還可以利用Amazon SageMaker和Amazon Bedrock等AI/ML服務(wù)中提供的增強(qiáng)型安全和隱私功能，為其AI應(yīng)用增添更多層面的強(qiáng)化安全和隱私控制。

從一開始就融入安全考量，將使利用生成式AI進(jìn)行創(chuàng)新的過程更快、更容易且更具成本效益，同時(shí)簡化合規(guī)流程。這將有助于為員工、客戶、合作伙伴和監(jiān)管機(jī)構(gòu)，增強(qiáng)對生成式AI應(yīng)用的控制、信心和可觀測性。

安全“先行”，是亞馬遜云科技一直在強(qiáng)調(diào)的，就像亞馬遜云科技CEO Matt Garman所說：“安全是構(gòu)建業(yè)務(wù)的根基。我們認(rèn)為安全性是企業(yè)文化的一部分，并非事后附加上去的。不能先推出產(chǎn)品而后再添加安全性。必須從一開始就予以落實(shí)?！?/p>

亞馬遜云科技認(rèn)為：“要想借助任何新興技術(shù)成功實(shí)現(xiàn)創(chuàng)新成功，就需要從秉持安全優(yōu)先的理念出發(fā)，以安全的基礎(chǔ)設(shè)施為基礎(chǔ)，并盡早運(yùn)用深度防御的安全策略，思考如何在技術(shù)堆棧的各個(gè)層面進(jìn)一步融入安全措施?！?/p>

以DeepSeek R1為代表，未來更多重量級的開源模型會(huì)被企業(yè)提上部署和應(yīng)用的日程?？梢钥吹?，以AI幻覺能夠形成“邏輯自洽”為表征，企業(yè)面臨的安全風(fēng)險(xiǎn)在變化和提升。亞馬遜云科技的系統(tǒng)性安全策略，意在助力企業(yè)在部署和應(yīng)用AI前沿技術(shù)的路徑上穩(wěn)步向前。行穩(wěn)，才會(huì)致遠(yuǎn)。