在禁止在竞选期间使用人工智能造假图像和视频的呼声下，联邦政府正在寻求选举委员会(AEC)的建议。

独立参议员David Pocock在Instagram上分享了两段人工智能生成的视频，内容分别是总理阿尔巴尼斯和反对党领袖达顿宣布支持全面禁止赌博广告。造假视频以假乱真的程度让他感到吃惊。

“我简直不敢相信我刚刚看到的东西。”Pocock在9月8日说，“这些视频是假的，但目前没有关于制作此类视频的监管法律。”

“深度造假和生成式人工智能对民主构成了真正的威胁，我们需要政府在选举中禁止使用这种技术，确保我们不会看到误导性的人工智能视频。但各大党派对此缺乏兴趣或迅速反应，令我感到非常沮丧。”他说。

韩国在全国大选前对虚假人工智能图像实施了为期 90 天的禁令，违反禁令者将被处以高额罚款和最高 7 年监禁。韩国大选顺利通过，没有出现与深度伪造相关的重大问题。美国的几个州通过了法律，要求在政治广告中使用深度伪造内容时必须披露信息。

特别国务部长Don Farrell已向澳大利亚选举委员会寻求建议。“这不是我们可以阻止的技术——它不会消失。”他的发言人说，“我们必须找到一种方法，让澳大利亚人能够免受故意虚​​假信息和内容的侵害。”

工业部长 Ed Husic 上周发布了一项拟议的强制性安全护栏，试图通过特定人工智能法案对高风险活动进行监管。

Husic 的咨询文件指出，欧洲新的人工智能法案已加强打击虚假人工智能图像，用于影响民主进程结果的人工智能系统现已被定义为高风险，并受到强制性安全控制。

但参议员 Pocock 表示，需要采取更紧急的行动来防止下次联邦选举中出现人工智能假象。

“我要告诉议会，让我们紧急处理这个问题。在普遍使用人工智能方面建立更广泛的护栏，这需要时间。”Pocock说，“我认为这是澳大利亚人希望议会处理的事情。当涉及到我们的民主和选举时，只要有政治意愿，我们就可以解决这个问题。”