国产美女三级视频,中文字幕二区,黄色片一级毛片,波多野结衣中文一区,91福利在线观看视频,av在线免费看网站,黄色三级免费片

當(dāng)前位置: 首頁 » 資訊 » 芯智駕 » AD供應(yīng)商 » 正文

大模型風(fēng)起 汽車安全迎新考題

放大字體  縮小字體 發(fā)布日期:2024-11-01  來源:中國汽車報(bào)  作者:鑫欏資訊
摘要:        當(dāng)被譽(yù)為“AI教父”的杰弗里·辛頓(Geoffrey Hinton)獲得諾貝爾物理學(xué)獎(jiǎng),諾貝爾化學(xué)獎(jiǎng)也花落身處人工智能公司DeepMind的丹米斯·哈薩比斯(Demis Has...
        當(dāng)被譽(yù)為“AI教父”的杰弗里·辛頓(Geoffrey Hinton)獲得諾貝爾物理學(xué)獎(jiǎng),諾貝爾化學(xué)獎(jiǎng)也花落身處人工智能公司DeepMind的丹米斯·哈薩比斯(Demis Hassabis)和約翰·喬普(John M. Jumper)時(shí),沒有人會(huì)再質(zhì)疑AI給人類社會(huì)帶來的顛覆性影響。而隨著以大模型為代表的人工智能技術(shù)逐漸普及,AI換臉等新的安全隱患也層出不窮。不久前,杭州公安便披露了全國首起利用AI換臉大模型突破頭部平臺人臉認(rèn)證的案件。一向?qū)?ldquo;安全”放在首位的汽車行業(yè),如今正積極向“AI定義汽車”時(shí)代邁進(jìn)。如何規(guī)避大模型應(yīng)用所帶來的安全風(fēng)險(xiǎn),成為行業(yè)必答題。
  汽車大模型從“嘗鮮”到“常用”
  根據(jù)相關(guān)數(shù)據(jù),截至目前,全球人工智能大模型已有1328個(gè)。聚焦汽車產(chǎn)業(yè),不少車企正在加快探索大模型對于汽車智能座艙、智能駕駛等功能的賦能,并試圖將大模型應(yīng)用于汽車研發(fā)、設(shè)計(jì)、營銷、運(yùn)營等眾多領(lǐng)域之中。
  “大模型會(huì)加快智駕數(shù)據(jù)的處理速度,在數(shù)據(jù)閉環(huán)、多場景感知任務(wù)識別及多模態(tài)任務(wù)融合、端到端自動(dòng)駕駛方面,促進(jìn)艙駕功能的協(xié)同部署。”在中國軟件評測中心智能網(wǎng)聯(lián)汽車產(chǎn)品與系統(tǒng)測評室主任王榮看來,大模型在汽車產(chǎn)業(yè)正迅速得到應(yīng)用,將成為汽車AI化發(fā)展的核心。正如其所言,今年以來,百度、字節(jié)跳動(dòng)、商湯科技、科大訊飛等科技企業(yè)以及理想汽車、小鵬汽車、蔚來汽車等車企都在加快部署大模型“上車”。
  為打造差異化競爭力,智能座艙成為當(dāng)下汽車企業(yè)大模型布局的最佳切入點(diǎn)。借助文心一言大模型,百度推出智能化產(chǎn)品,將百度智能座艙升級為Apollo超級座艙,可實(shí)現(xiàn)自動(dòng)理解、構(gòu)建,并生成相應(yīng)場景,調(diào)度全車能力,理解用戶需求,并主動(dòng)執(zhí)行最優(yōu)全局解決方案。同樣是今年4月,蔚來NOMI GPT端云多模態(tài)大模型正式上線,賦予了NOMI與用戶進(jìn)行開放式問答的交互能力。理想自研的Mind GPT則具備覆蓋111個(gè)領(lǐng)域、超1000種以上的專屬能力,集用車助手、娛樂助手、出行助手、百科老師于一身。商湯絕影智能座艙大模型產(chǎn)品則已在多家車企量產(chǎn)車型上得到應(yīng)用,小米SU7的小愛語音助手車載語音場景應(yīng)用便脫胎于此。
  在智能駕駛方面,今年5月,小鵬汽車宣布國內(nèi)首個(gè)端到端大模型量產(chǎn)上車,預(yù)計(jì)到今年四季度實(shí)現(xiàn)“門到門”的智能駕駛;7月,世界人工智能大會(huì)上,商湯絕影發(fā)布可解釋、可交互的自動(dòng)駕駛大模型DriveAGI,讓車輛可以像人一樣理解復(fù)雜的現(xiàn)實(shí)世界,洞察各類交通參與者的行為動(dòng)機(jī),快速學(xué)習(xí)各種交通規(guī)則,并向用戶解釋駕駛決策的推理過程;理想則計(jì)劃推出基于自研大模型和VLM視覺模型的L3級自動(dòng)駕駛系統(tǒng)。
  除了把大模型變?yōu)槠嚠a(chǎn)品力,不少車企也在借助大模型能力提升自身營銷、研發(fā)、運(yùn)營等方面的生產(chǎn)力。2023年,華為云盤古大模型首次發(fā)布,覆蓋了汽車設(shè)計(jì)、生產(chǎn)、營銷、研發(fā)等多個(gè)業(yè)務(wù)場景。據(jù)了解,盤古汽車大模型現(xiàn)已覆蓋汽車業(yè)務(wù)超20多個(gè)L2場景,并已深入到汽車生產(chǎn)、自動(dòng)駕駛開發(fā)、智能座艙開發(fā)、智能營銷以及產(chǎn)品售后等多個(gè)環(huán)節(jié)。今年4月,騰訊發(fā)布汽車行業(yè)大模型,實(shí)現(xiàn)在汽車研發(fā)、生產(chǎn)、營銷、服務(wù)、企業(yè)協(xié)同五大核心場景的落地應(yīng)用。此外,火山引擎也與領(lǐng)克汽車等車企合作,依托豆包大模型打造智能銷售AI助手、智慧經(jīng)營報(bào)表等功能,持續(xù)釋放大模型能力。
  “以人工智能為主導(dǎo)的智能化競爭力,已經(jīng)成為產(chǎn)業(yè)和企業(yè)新的發(fā)展高地和戰(zhàn)略支點(diǎn)。”中國電動(dòng)汽車百人會(huì)副理事長兼秘書長張永偉表示,隨著AI大模型與汽車的深度融合,汽車產(chǎn)業(yè)將進(jìn)入全面AI化競爭,企業(yè)必須利用好AI模型能力,促進(jìn)汽車智能化水平躍升。
  70%安全事故來自遠(yuǎn)程攻擊
  普及大模型勢在必行,消費(fèi)者、企業(yè)、行業(yè)乃至社會(huì)發(fā)展也確實(shí)從中受益,然而新技術(shù)的到來必然會(huì)給監(jiān)管提出新的挑戰(zhàn)。相關(guān)數(shù)據(jù)顯示,今年上半年全球出現(xiàn)的汽車安全事故中,70%均為遠(yuǎn)程攻擊,涉及智能座艙、充電服務(wù)、智能控車、自動(dòng)駕駛等場景,物理攻擊僅占5%。如今,大模型的出現(xiàn)無疑給智能網(wǎng)聯(lián)汽車的安全帶來更大挑戰(zhàn)。
  不久前,中國信息通信研究院發(fā)布的《大模型安全研究報(bào)告2024》指出,大模型自身存在訓(xùn)練數(shù)據(jù)安全、算法模型風(fēng)險(xiǎn)、系統(tǒng)平臺風(fēng)險(xiǎn)、業(yè)務(wù)應(yīng)用風(fēng)險(xiǎn)等方面的安全風(fēng)險(xiǎn)。如大模型插件可能存在缺陷,引發(fā)敏感信息泄露、提示詞注入、跨插件請求偽造等安全問題;用戶與大模型互動(dòng)也可能無意中泄露自己的隱私或保密信息。
  聚焦汽車領(lǐng)域,王榮表示,車用AI模型訓(xùn)練會(huì)收集和存儲大量包含敏感信息的數(shù)據(jù),如駕駛行為、位置信息、乘客信息等,如何確保這些數(shù)據(jù)在采集、傳輸、存儲等過程中的安全問題也值得關(guān)注。另外,攻擊者還可通過精心設(shè)計(jì)的輸入數(shù)據(jù)或植入惡意樣本等方式,來欺騙AI模型做出錯(cuò)誤決策,影響模型的準(zhǔn)確性和安全性。
  值得注意的是,如同AI換臉、偽造視頻等,大模型在汽車領(lǐng)域的應(yīng)用也存在AI生成內(nèi)容帶來的安全隱患。王榮稱,隨著生成式人工智能在智能網(wǎng)聯(lián)汽車上的推廣,文生文、文生圖、文生音樂等功能逐漸普及,而生成內(nèi)容可能涉及隱私、倫理、合規(guī)等諸多方面的安全問題,必須對生成內(nèi)容進(jìn)行審查和標(biāo)識管理。
  此外,受制于技術(shù)發(fā)展,大模型的可靠度也值得商榷。王榮表示,AI模型訓(xùn)練依賴高質(zhì)量數(shù)據(jù),數(shù)據(jù)來源、特征和分布過于單一,或存在錯(cuò)誤數(shù)據(jù),都會(huì)對模型訓(xùn)練數(shù)據(jù)質(zhì)量產(chǎn)生影響,進(jìn)而導(dǎo)致模型推理結(jié)果可靠性偏低。《大模型安全實(shí)踐(2024)》白皮書明確指出,大模型技術(shù)仍存在自身缺陷,包括生成內(nèi)容不可信、能力不可控以及外部安全隱患等問題,由此帶來生成“幻覺”問題等風(fēng)險(xiǎn),影響生成內(nèi)容的可信度。對于專業(yè)性較強(qiáng)的汽車行業(yè)而言,大模型對于專業(yè)領(lǐng)域知識圖譜的學(xué)習(xí)仍然有限,必須謹(jǐn)慎對待。
  不過,不可否認(rèn)的是,大模型的應(yīng)用在給汽車安全帶來全新挑戰(zhàn)的同時(shí),也能夠轉(zhuǎn)變?yōu)槠嚢踩?ldquo;保護(hù)傘”,減少現(xiàn)有部分安全隱患。“生成式AI也能夠起到遠(yuǎn)程維護(hù)和監(jiān)控作用,通過分析車輛傳回的數(shù)據(jù),制造商能夠及時(shí)發(fā)現(xiàn)并解決潛在問題,提高車輛安全性。”王榮說道。不久前,國內(nèi)汽車安全公司木衛(wèi)四便發(fā)布汽車安全大模型蝴蝶大模型2.0,可以在數(shù)百萬輛的汽車異常日志中自動(dòng)識別黑客攻擊和汽車異常狀況,幫助車企實(shí)時(shí)識別汽車安全風(fēng)險(xiǎn)。此外,該安全解決方案還覆蓋了智能駕駛、充電樁等領(lǐng)域,并可提供汽車安全情報(bào)服務(wù)。百度也將大模型運(yùn)用于汽車安全領(lǐng)域,可對汽車網(wǎng)絡(luò)環(huán)境進(jìn)行實(shí)時(shí)監(jiān)控,對汽車系統(tǒng)漏洞進(jìn)行智能分析,并結(jié)合車輛運(yùn)行數(shù)據(jù)對其運(yùn)行狀態(tài)進(jìn)行智能評估。
  大模型管理體系待完善
  面對大模型這一汽車安全“雙刃劍”,如何有效規(guī)避風(fēng)險(xiǎn)的同時(shí),挖掘大模型的潛力,需要行業(yè)上下共同努力。去年8月,《生成式人工智能服務(wù)管理暫行辦法》正式施行,提出要根據(jù)生成式人工智能服務(wù)的風(fēng)險(xiǎn)高低進(jìn)行分類分級監(jiān)管,根據(jù)生成式人工智能服務(wù)適用的不同領(lǐng)域進(jìn)行行業(yè)部門監(jiān)管。對于汽車產(chǎn)業(yè)而言,王榮認(rèn)為,要提早布局汽車大模型安全管理和評估體系,將大模型應(yīng)用存在的惡意攻擊、隱私泄露、模型泛化等安全風(fēng)險(xiǎn)扼殺于微時(shí)。
  首先,開展汽車大模型備案。包括備案資料準(zhǔn)備、備案信息填報(bào)、提交備案申請、備案審核等。大模型獲得備案號后還需持續(xù)監(jiān)督模型的合規(guī)性,并根據(jù)法律法規(guī)的變化及時(shí)更新備案信息。
  其次,制定汽車大模型安全基本要求。組織行業(yè)專家制定汽車大模型的安全技術(shù)標(biāo)準(zhǔn),明確數(shù)據(jù)安全、模型訓(xùn)練、模型使用等方面的安全要求。去年年底,中國信息通信研究院依托人工智能產(chǎn)業(yè)聯(lián)盟安全治理委員會(huì),聯(lián)合多方開展了“大模型安全風(fēng)險(xiǎn)防范能力”系列評估規(guī)范研究和編制工作。目前,《安全大模型能力要求及評估方法》系列規(guī)范中的總體框架、基礎(chǔ)網(wǎng)絡(luò)安全兩部分已正式發(fā)布。聚焦汽車領(lǐng)域,據(jù)王榮介紹,中國軟件測評中心牽頭構(gòu)建了大模型公共服務(wù)平臺,針對缺乏公共數(shù)據(jù)集、測試評價(jià)標(biāo)準(zhǔn)、大模型應(yīng)用驗(yàn)證等行業(yè)痛點(diǎn)問題,提供數(shù)據(jù)匯聚、質(zhì)量管理、標(biāo)準(zhǔn)規(guī)范、應(yīng)用驗(yàn)證等公共服務(wù)。
  第三,開展大模型安全評估。建立汽車大模型安全評估體系,包括評估流程、評估方法和評估工具,通過靜態(tài)和動(dòng)態(tài)分析、模擬攻擊、滲透測試、代碼審計(jì)等方式,評估汽車大模型的安全性能,確保其在實(shí)際應(yīng)用中的安全性和可靠性。
 
關(guān)于我們:ICC鑫欏資訊成立于2010年,主要服務(wù)于炭素、鋰電、電爐鋼3大行業(yè),是中國領(lǐng)先的專業(yè)產(chǎn)業(yè)研究和顧問公司。鑫欏資訊以研究為中心,提供媒體資訊、研究咨詢、數(shù)據(jù)庫和市場營銷等解決方案。
鑫欏鋰電專注于鋰電池原材料、鋰電池及其下游等相關(guān)產(chǎn)業(yè)鏈跟蹤,對市場價(jià)格、行情動(dòng)態(tài)等資訊的搜集與研究,常年跟蹤行業(yè)內(nèi)400多家生產(chǎn)企業(yè),擁有完善的產(chǎn)業(yè)數(shù)據(jù)庫。根據(jù)企業(yè)需求提供定制報(bào)告,為企業(yè)提供專業(yè)化服務(wù)。
鑫欏鋰電以研究為中心,服務(wù)于行業(yè)企業(yè)、金融機(jī)構(gòu)(一二級市場私募基金/券商/銀行等)、高校/科研院所、政府等,為客戶提供的獨(dú)特洞見、分析和資源,幫助客戶高效決策,以實(shí)現(xiàn)高質(zhì)量的業(yè)務(wù)增長。

[ 資訊搜索 ]  [ 加入收藏 ]  [ 告訴好友 ]  [ 打印本文 ]  [ 關(guān)閉窗口 ]

 

 
資訊瀏覽
市場報(bào)價(jià)
 
聯(lián)系我們
| 版權(quán)隱私 | 使用協(xié)議 | 網(wǎng)站服務(wù) | 聯(lián)系方式 | 關(guān)于我們
電話:021-50184981   電子郵箱:service@iccsino.com   地址:上海市浦東新區(qū)商城路506號新梅聯(lián)合廣場B座21樓D  郵編:200122  滬ICP備2022024271號-1