加州在人工智能領(lǐng)域監(jiān)管方面邁出關(guān)鍵一步，于近日通過一項(xiàng)具有開創(chuàng)性的法律“SB243”，成為全美首個(gè)針對聊天機(jī)器人制定安全規(guī)范的地區(qū)。該法案由州參議員安東尼·帕迪拉提出，經(jīng)州長加文·紐森簽署后正式生效，旨在平衡技術(shù)進(jìn)步與用戶權(quán)益保護(hù)，尤其關(guān)注兒童在線安全。

新法核心條款要求，當(dāng)用戶可能誤將聊天機(jī)器人視為人類時(shí)，開發(fā)者必須通過“清晰且顯著”的方式告知其真實(shí)身份。這一規(guī)定直指當(dāng)前人工智能交互中存在的透明度問題，例如部分聊天機(jī)器人通過擬人化設(shè)計(jì)模糊人機(jī)邊界，可能對用戶尤其是未成年人造成誤導(dǎo)。

針對心理健康風(fēng)險(xiǎn)，法案要求部分聊天機(jī)器人運(yùn)營商自明年起，需向加州自殺預(yù)防辦公室提交年度報(bào)告，詳細(xì)說明其識(shí)別、干預(yù)用戶自殺傾向的措施。該辦公室將公開相關(guān)數(shù)據(jù)，供公眾監(jiān)督。這一機(jī)制旨在建立技術(shù)平臺(tái)與心理健康服務(wù)的聯(lián)動(dòng)，降低虛擬空間中的心理危機(jī)風(fēng)險(xiǎn)。

州長紐森在簽署儀式上強(qiáng)調(diào)，技術(shù)發(fā)展不應(yīng)以犧牲安全為代價(jià)。“科技既能激勵(lì)教育，也可能被濫用為傷害工具。”他特別指出，兒童是監(jiān)管重點(diǎn)保護(hù)對象，“他們的安全絕非可以妥協(xié)的議題”。這一表態(tài)凸顯了加州在推動(dòng)人工智能創(chuàng)新的同時(shí)，對倫理責(zé)任的重視。

與此同時(shí)，加州還通過了另一項(xiàng)引發(fā)行業(yè)熱議的法案“SB53”，聚焦人工智能透明度問題。盡管該法案在技術(shù)界引發(fā)爭議，但與“SB243”共同構(gòu)成了加州對人工智能領(lǐng)域的雙重監(jiān)管框架，覆蓋從交互設(shè)計(jì)到數(shù)據(jù)披露的多維度規(guī)范。

此次立法標(biāo)志著加州在人工智能治理中扮演了先鋒角色。通過明確開發(fā)者責(zé)任、強(qiáng)化心理健康支持、設(shè)立兒童保護(hù)紅線，加州試圖為技術(shù)發(fā)展劃定安全邊界，確保創(chuàng)新成果惠及社會(huì)而非成為風(fēng)險(xiǎn)源頭。