Nah, kalau untuk kasus mas pngin nanyain misalnya "bagaimana cara nge-hack private key bitcoin", itu jelas kata-kata yang dilarang hack, crack atau sejenisnya menurut saya itu tidak mungkin bisa dan penggunaan kata-kata seperti itu dilarang.
Ya jangan pakai cara vulgar pakai kata-kata di atas gan, mungkin lebih diperhalus misal email kamu kena hack dan minta bantuan chatGPT untuk memulihkannya. Atau private key bitcoin kamu hilang dan butuh code brute force atau semacamnya untuk memulihkannya. karena pengalamanku yang pernah minta dibuatkan website, chatGPT ini tentu tidak secara langsung bikin barang itu langsung jadi, dia mungkin akan meminta spesifikasi yang jelas dan detil dulu mengenai konten apa diwebsite mu tersebut. Ya ada semacam tahapan dan proseslah, nanti kalau alur dan pertanyaannya tepat malah mungkin kamu akan mendapatkan lebih dari expektasimu.
https://cyberhoot.com/advisory/five-ways-chatgpt-helps-you-hack/