【资料图】
我们知道流行的ChatGPTAI机器人可用于发送Tinder匹配消息。它也可以变成更时髦的Siri版本或完全错误的基本事实，这取决于你如何使用它。现在，有人用它来制作恶意软件。
在安全公司CyberArk的一份新报告中(在新窗口中打开)(并由InfoSecurity杂志报道(在新窗口中打开))，研究人员发现您可以欺骗ChatGPT为您创建恶意软件代码。更糟糕的是，网络安全系统很难处理上述恶意软件。
完整的报告涉及所有细节技术细节，但为了简洁起见：一切都与操纵有关。ChatGPT有内容过滤器，可以防止它提供任何对用户有害的东西，比如恶意计算机代码。CyberArk的研究很早就遇到了这个问题，但实际上找到了解决方法。
基本上，他们所做的只是在文本提示中强制要求AI遵循非常具体的规则(显示代码而不解释，不要否定等)。这样做之后，机器人高兴地吐出一些恶意代码，就好像它完全没问题一样。当然，还有很多额外的步骤(例如，代码需要进行测试和验证)，但是ChatGPT能够在恶意编写代码方面取得成功。
