AI声音模仿得如此真切，也引发了一系列伦理和法律问题，甚至导致了电信欺骗的呈现。据澳大利亚Insider Guides网站报道，最新报告显示，2023年澳大利亚人因欺骗丧失了创纪录的31亿美元。

　　声音克隆易被骗子运用

　　在电信欺骗中，骗子用AI软件扫描语音记载并复制，正确率高达99%。他们可以从社交媒体的视频和其他上传音频中提取片断，将其输入AI软件，重现声音并说出不同短语或句子。

　　澳大利亚悉尼科技大学电气与数据工程学院副教授迪普·阮晋勇表现，AI模型可以将相对较短的语音片断和字符串片断重建为连贯的句子。有些模型和算法只需一分钟甚至更短时间，就能合成一段相当高质量的克隆声音。

　　阮晋勇表现，先进的AI模型和算法可以很好地合成声音，以至于“普通人很难区分克隆的声音和真实的声音”。

　　美国《时期》周刊报道称，几个月前，亚利桑那州的一个家庭认为接到了绑架电话，电话里的声音听起来与亲人的声音别无二致，成果发现这是一个完整由AI制作的圈套。越来越多圈套的呈现让人们担忧AI可能成为威逼人们的技术，而且这种技术很容易获得。

　　AI让普通人变歌星

　　AI声音克隆也扩大到音乐范畴，人们用该技术创作出与明星的声音完整雷同的歌曲。最近，一位名叫“Dae Lims”的创作者在社交媒体宣布了几首用AI创作的歌曲。

　　“好听哭了！这太美了！”一位听众在《New》歌曲下评论道，这首歌是保罗·麦卡特尼2013年的单曲，它在AI的辅助下被重新制造，并由麦卡特尼的朋友、1980年已故的约翰·列侬“演唱”其中的部分桥段。

　　相似的例子还有今年4月，国外网友“Ghostwriter977”用著名说唱歌手Drake和R&B歌手The Weeknd的声音对AI进行训练，模拟两人音乐作风生成了“合唱”歌曲《我袖子上的心》。这首歌一经宣布，便在社交媒体疯传。

　　“我们真的进入了一个新时期。”一位听众在评论中回应道，“甚至无法辨别什么是合法的，什么是假的。”

　　作曲家、美国斯坦福大学音乐与声学盘算机研讨中心助理教授帕特里夏·亚历桑德里尼表现，最近大批的AI曲目代表了一项技术的成熟，该技术一直在呈指数级发展，但在过去十年中基础不为大众所关注。这意味着，现在人们可以对AI进行任何方面的训练，但“我们不能指望它会代替人类发明艺术和文化的丰盛历史”。

　　给音乐行业带来威逼

　　对于音乐行业来说，AI克隆声音生成音乐的影响是宏大的。随着技术提高，在不久的将来，人们可以运用某款软件很容易地将自己的歌声转换为自己最中意的歌手的声音。

　　事实已经证明，AI对版权界发生了宏大影响。

　　在《我袖子上的心》案例中，作为两位歌手签约的唱片公司，环球音乐团体(UMG)很快提出了版权主意，并请求从流媒体服务中撤下这首歌曲。

　　纽约的音乐版权律师马克·奥斯特罗则表现，AI生成的音乐是一个“灰色地带”。

　　版权如何界定？什么水平的复制才是“合理应用”？又怎么禁止其不合理性应用的扩展化？

　　美国国家音乐出版商协会(NMPA)主席兼首席履行官大卫·伊斯雷特表现，应容许词曲作者和音乐出版商更好地保护他们的作品免受未经授权的应用，这在AI时期将受到前所未有的挑衅。