ChatGPT 实在是太好用了，但其开发团队 OpenAI 为了避免黑客利用 ChatGPT 来进行攻击，禁止了很多涉及安全性问题的回答，如何不触及到底线来问出正确答案，成为了黑客与资安研究人员共同研究的新课题。
在拥抱 ChatGPT的同时，也必须注意避免在 ChatGPT上传机敏信息，本文以资安从业人员的角度，分享如何善用这工具，可以少学或少安装一些复杂的检测工具，提高整体效率，像是静态源码检测、子域盘点及凭证检查。当然黑客同时也在关注，虽然 ChatGPT 会阻挡恶意行为的询问，但透过伪装攻击企图，或是拆解问题，仍然能够使该工具提供解答。
本文将分享一些可以从 ChatGPT 得到答案的方法，然后把这些方法大致分成两类，分成可以被攻击者利用的与开发者做防护时需要的，虽然文中实做部分皆以网站为例，但这些方法并不限用于网站攻防，其他资安领域也有很多机会用到。
下方是 ChatGPT 的自我介绍，我们更在意的是它能不能正确回答出资安问题，还有这些答案对我们的安全性提升有没有帮助，所以这里就简单带过。
假设攻击者在网站中发现一个上传漏洞，想让 ChatGPT 帮忙写一支带有后门功能的网页，希望在上传后取得服务器控制权，很可能用下面的方法问 ChatGPT。
从回答可以发现，即使文字中不包含攻击性字眼，ChatGPT 还是会根据内容判断你是否可能进行恶意行为，并在必要时拒绝回答你的问题。如果你的问题本身含有攻击性字眼，那么 ChatGPT 不只不回答你的问题，还会警告你最好不要这样做。但是这种检查其实是可以被绕过的，以下是一些常见的方法和相应的实测结果。
ChatGPT 会因为担心你把将这段程序代码用于攻击行为而不告诉你答案，如果我们还是想要得到答案，就需要增加一些条件来影响 ChatGPT 的判断。延续之前的例子，我们可以加上两个条件，告诉 ChatGPT 你要执行一个非攻击的命令 whoami 与使用 PHP 来撰写，像这样增加一些明确或安全的条件来限缩回答内容后，ChatGPT 就无法很肯定的判断你有攻击意图，接着就会帮你把网页写出来了，这时候攻击者再把 whoami 替换成任何想执行的恶意指令，就可以把这段程序代码用于攻击行为。
实际上伪装的方法有非常多，除了刚刚示范的增加条件之外，也可以增加赘字或连着别的问题一起问，总体来说这些方法的目的都是伪装攻击企图，就像在现实中骗人一样，到目前为止 ChatGPT 还算好骗，未来就不好说了。
ChatGPT 会尽可能地给出完整的答案，即使你的问题并不是很具体。所以我们提问时就算只查询恶意代码的某些部分，通常可以获得完整的攻击程序代码，还不容易被判定是恶意行为。延续前一个例子，我们可以看出在 PHP 程序代码中，shell_exec 是一个可用于下达系统命令的功能，是一个黑客会喜欢的功能。所以我们提问时只询问 shell_exec 的用法，而非说明我们的目的，就可以在不被判定为恶意行为的情况下得到答案，而且 ChatGPT 还会补充额外的内容，让你得到更完整的攻击程序代码。
下方的程序代码，若对网页开发有一定了解的话，可以看出来这已经是一支标准的后门程序了，如果能成功上传到并浏览这个带有恶意脚本的页面，攻击者就可以取得初步的控制权，接着可以开始试着提权或进行其他攻击行为。
实际把这个网页放上测试网站后可以看出来，攻击者已经可以对网站服务器下一些简单的命令了，下方的例子是列出网站目录里的档案与权限设定，藉此验证攻击者已取得初步的控制权。
ChatGPT 目前有免费版本的 Web 和付费版本的 API 两种。如果你使用的是付费版本，则无论问什么资安问题，ChatGPT 都会给你答案，这使得前述两种方法都可以跳过。许多人已经发现了这个问题，包括黑客，而 OpenAI 官方也肯定知道。但是，尚不清楚未来是否会调整安全性政策，因为已经有太多人分享了这一问题。如果你对此感兴趣，可以参考下方的新闻连结以获得更多信息。
<新闻连结：魔高一尺防不胜防 黑客找出ChatGPT限制恶意用途新方法>
https://www.technice.com.tw/cloudtech/infosecurity/37045/
简单来说就是一些传统资安防护工具能做的事 ChatGPT 也能做，而且使用上更方便，可以少学或少安装一些复杂的检测工具
基本上这是最直观的防御方式，直接就把你的程序代码丢给 ChatGPT 让他帮你检查看看有没有安全性问题，也就是静态的源码检测，如果把之前攻击用的后门网页整个贴上，就可以得到如下图中的回答，ChatGPT 会很明确地告诉你有命令注入漏洞。
但这方法要特别注意提问的有字数限制，免费版的提问字数上限是 300 字，付费版的字数上限是 1000 字，若程序代码内容较多需要分段贴上，提问的时候也可以先问弱点，再问修复方式，因为同一笔回复也是有字数上限的。
除了盘点网域之外，ChatGPT 还能通过阅读网站内容来猜测其用途，这一功能使得它比许多传统的子域盘点工具更具有优势。对于网站的安全来说，子域盘点主要可以发现那些可能被忽略的子域。如果这些网域中存在未被维护或使用的网站，那么攻击者更有可能利用这些网站上的漏洞，例如使用未更新的软件或存在安全性问题的程序设计等。
使用 HTTPS 的网站通常会涉及到凭证和加密等安全性问题，这些问题可以很快地从 ChatGPT 中获得答案，例如凭证和域名是否匹配以及凭证的过期时间等。
尽管本文将寻找答案的方法分成两类型进行介绍，实际上开发者也可以使用攻击手法来验整网站是否安全，像是利用后门程序来验证网站的权限控制是否得当，若权限控制得当，攻击者即使成功联机也无法进一步攻击网站。反过来说黑客也能使用防护方法来攻击，像是利用子域盘点来寻找更多的攻击目标。所以利用 ChatGPT 进行网站攻防的方式是黑客和资安从业人员的共同挑战。
最后要提醒一下，不要盲目相信 ChatGPT 给出的答案。在测试过程中，曾出现过看似正确但实际上错误的答案，特别是在某些程序代码引用的部分或套件新旧版本有差异时的处理。因此从 ChatGPT 快速获得答案后，稍微花一点时间进行验证，能有效避免掩耳盗铃的情况发生。
是方合作伙伴 Cymetrics 也实测了一些结果，实际上开发者也可以使用攻击手法来验整网站是否安全，反过来说黑客也能使用防护方法来攻击，像是利用子域盘点来寻找更多的攻击目标。所以利用 ChatGPT 进行网站攻防的方式是黑客和资安从业人员的共同挑战。
Cymetrics 建议关于企业内部信息，还是避免上传 ChatGPT 协助摘要，尤其是机敏信息，如直接用在云端上，AI拿来做学习，企业数据外泄机率会大幅提升，也建议企业定期针对自身及供应链厂商，执行外在曝险检测，确认是否有重要信息遗漏在外，适时修补漏洞，以降低被黑客拿来运用并攻击的机率!
是方电讯与 Cymetrics 合作推出的云端资安曝险检测服务，协助企业以简单、快速的方式，还原黑客视角，检验企业在外的曝险程度。
欢迎咨询及免费检测！
本文转载自 Cymetrics Tech Blog
