上海首家生成式AI質(zhì)檢中心掛牌 為人工智能軟件各項指標“體檢” |
發(fā)布時間:2023-07-31 文章來源:本站 瀏覽次數(shù):2032 |
“無中生有”可謂生成式人工智能強壯學習才能的“本色”?墒,在從無到有的過程中,人工智能會不會犯錯?近日,由上海計算機軟件技能開發(fā)中心籌建的上海市生成式人工智能質(zhì)量查驗檢測中心掛牌。作為上海首家批籌的人工智能范疇質(zhì)檢中心,其將幫助生成式人工智能在深度學習,智能生成過程中及時修偏糾錯,助生成式AI產(chǎn)品當之無愧,少走彎路。 Chatgpt強壯的智能潛力,讓生成式AI瞬間火遍全球。本年5月發(fā)布的《中國人工智能大模型地圖研究報告》顯示,我國已有79個10億級以上參數(shù)規(guī)模的大模型。不過,在一些大言語模型使用初期,部分歹意用戶可能會經(jīng)過角色扮演、分步提問等方式,躲避大言語模型安全規(guī)則,誘導其給出違背法律法規(guī)的回答,或許生成違背倫理道德的內(nèi)容。怎么客觀地點評大模型的性能,同時讓剛剛萌發(fā)且學習才能飛快的大模型使用合禮、合規(guī),成為賦能各行各業(yè)的重要一環(huán)。 生成式人工智能質(zhì)量查驗檢測中心,正是要檢測生成式AI產(chǎn)品中潛在的類似縫隙,提高人工智能體系的安全性,減少各類危險。“咱們會對送檢的人工智能軟件各項指標進行‘體檢’,并出具詳細‘體檢報告’!鄙虾?茖W院直屬上海計算機軟件技能開發(fā)中心主任蔡立志說,上海市生成式人工智能質(zhì)檢中心要點聚集生成式人工智能、工業(yè)智能質(zhì)檢、才智醫(yī)療、人臉辨認、自動駕駛范疇的人工智能查驗檢測。 據(jù)介紹,該質(zhì)檢中心將參考國內(nèi)外人工智能測評標準,自主研制人工智能深度安全和測評技能與東西,包括對立樣本生成與防御評估東西、自然言語處理體系測評數(shù)據(jù)生成東西、人工智能虛假人臉檢測東西、人工智能危險評估與管理東西等,為企事業(yè)單位供給人工智能質(zhì)量“一站式”測評服務。 近年來,在上?茖W院布置下,上海計算機軟件技能開發(fā)中心布局并開展了人工智能的使用、管理、測評等技能研究與第三方技能服務,參加編寫了《人工智能標準化白皮書(2021版)》,完成了《人工智能深度組成圖像體系技能規(guī)范》《人工智能計算機視覺體系測評規(guī)范》等30余項標準研制,近三年來為人工智能企業(yè)與使用方供給第三方測評年均超越500項。 |
|