21世紀經濟報道記者 章馳 實習生 張欣奕
這屆網友真是人才！用AI，讓大佬們唱、跳、rap 無所不能，玩兒得飛起。
前段時間，有網友用AI把雷軍的聲音生成了一段罵人的音頻，在網上傳得沸沸揚揚，有許多人以為這只是在玩梗或者惡搞，但其實已經涉及違法啦！在未獲得授權的情況下，使用他人聲音進行配音創作，侵犯了聲音權人的合法權益；而現在大肆流行的AI數字人直播，未經許可，也是不可以模仿知名人物的。
但別以為這只是名人的煩惱，AI偽造的語音，還可能變成詐騙電話，甚至拐騙兒童的陷阱。之前就有博主自己測評，用AI語音和AI換臉技術生成視頻，僅僅用3小時，就騙走了自己母親2萬元工資。試想，如果有人用AI生成語音，偽裝成家長誘騙孩童，那該多么可怕！
今年9月我國正式開始施行《AI標識辦法》，規定：所有AI生成的內容，都得打上“AI制造”的標簽，比如AI生成的音頻，要么開頭就說“由AI生成”，要么就得帶上一段特殊的摩斯電碼節奏。這意味著，當我們接到可疑語音、看到可疑視頻時，有“AI標識”就能夠幫助我們拉響警報，降低辨別成本，成為我們的防騙利器。
當然， 咱們每個人用AI創作時，也請記得主動標一標，讓我們一起打造一個更安全的AI新世界！
在《人工智能生成合成內容標識辦法》及配套國標正式實施48小時內，21記者實測了35款應用，其中2款未在圖片中標識AI，4款未在交互頁面標識AI。尤其是APP內置的智能助手，具備深度思考、聯網搜索、生成長文的能力，但沒有按要求提示AI生成。《AI內容“持證上崗”首測：35款應用，誰是漏網之魚》
11天后，21記者進行第二輪復測，重點排查了之前未按規定標識AI的應用。除了百度文庫的圖片標識還沒有落實外，其他應用都已經修改到位。
