chatgpt-및-기타-AI-챗봇-사이버-보안-미래에-의미하는-것

상대적으로 간단한 작업인 이메일 작성부터, 글쓰기나 코드 편집과 같이 더 복잡한 작업까지, OpenAI의 인공 지능 기반 자연어 처리 도구인 ChatGPT은 출시 이후로 큰 관심을 받고 있습니다.

물론 완벽한 것은 아니지만, 정보를 오해하여 실수와 오류를 일으킬 수 있으므로 이해하고 있는 정보에서 잘못된 해석을 할 때도 있습니다. 그러나 많은 사람들은 이것과 같은 인공지능 도구를 인터넷을 사용하는 방법의 미래로 보고 있습니다.

ChatGPT에 대한 OpenAI의 이용 약관은 악성 소프트웨어 생성, 랜섬웨어, 키로거, 바이러스 또는 "어떤 형태로든 피해를 일으키고자 하는 다른 소프트웨어"의 생성을 명확히 금지하고 있습니다. 또한 스팸 생성 및 사이버 범죄에 목적을 둔 사용 사례도 금지합니다.

그러나 혁신적인 온라인 기술과 마찬가지로, 이미 어두운 목적으로 ChatGPT를 악용하려는 사람들이 존재합니다.

출시 후, 사이버 범죄자들은 지하 포럼에 스레드를 올려 ChatGPT를 악성 사이버 활동에 도움을 주는 도구로 어떻게 사용할 수 있는지에 대해 논의하기 시작했습니다. 이를 통해 사기 이메일을 작성하거나 악성 소프트웨어를 컴파일하는 데 도움을 줄 수 있다는 내용이 포스팅되었습니다.

또한 ChatGPT와 같은 AI 도구 및 Google Bard와 같은 다른 AI 도구를 악용하려는 사기꾼들의 우려가 있습니다. 이러한 AI 도구들은 사이버 공격을 혁신적으로 바꾸지는 않지만, 사이버 범죄자들이 악의적인 캠페인을 더 효율적으로 실행하는 데 도움을 줄 수 있습니다.

" 최소한 단기간 내에는 ChatGPT가 완전히 새로운 유형의 공격을 만들 것이라고 생각하지 않습니다. 주된 초점은 그들의 일상적인 작업을 보다 비용 효율적으로 만드는 것입니다." 사이버 보안 회사인 Check Point의 위협 인텔리전스 그룹 매니저인 Sergey Shykevich는 말합니다.

또한: ChatGPT가 무엇이며 왜 중요한가요? 여기에서 알아야 할 모든 것을 알려드립니다

피싱 공격은 악성 해킹 및 사기 캠페인의 가장 일반적인 구성 요소입니다. 공격자가 맬웨어를 배포하기 위해 이메일을 보내거나 피싱 링크를 보내거나 피해자를 속이고 돈을 이체하게 하는데 사용되는 경우, 이메일은 초기 강압력을 가하는 주요 도구입니다.

이메일에 대한 의존도는 갱스(Gangs)가 명확하고 유용한 콘텐츠의 지속적인 흐름이 필요하게 만든다. 피싱(Phishing)을 포함한 많은 경우, 공격자의 목적은 사람을 설득하여 돈을 이체하도록 하는 것과 같은 행위입니다. 다행히도, 현재 많은 피싱 시도는 스팸으로 쉽게 알아볼 수 있습니다. 하지만 효율적인 자동화된 작가는 이메일을 더 이끌어내는 내용으로 만들 수 있을 것입니다.

사이버 범죄는 전 세계적인 산업이며, 각종 국가의 범죄자들이 전 세계의 잠재적 피해 대상에게 피싱 이메일을 보냅니다. 이는 언어가 장벽이 될 수 있다는 것을 의미하며, 피해자가 신뢰하는 연락처와 대화하고 있다고 생각하게끔 하는 더욱 정교한 스피어 피싱 캠페인의 경우에는 피해자가 이상한 맞춤법과 문법 오류 또는 이상한 구두점이 들어간 이메일들을 보게 되면 동료와 대화하고 있다고 믿을 수 없을 것입니다.

그러나 AI가 올바르게 이용된다면, 챗봇은 공격자가 원하는 언어로 이메일에 대한 텍스트를 작성하는 데 사용될 수 있습니다.

"러시아 사이버 범죄자들에게 가장 큰 장애물은 언어 - 영어"라고 Shykevich가 말합니다. "그들은 이제 러시아 대학에서 영어 공부를 한 졸업생들을 고용하여 피싱 이메일을 작성하고 콜 센터에서 일하게 합니다 - 그리고 그들은 이를 위해 돈을 지불해야 합니다."

그는 말합니다: "ChatGPT와 같은 것은 다양한 피싱 메시지 작성을 통해 많은 돈을 절약할 수 있습니다. 그것은 그들의 인생을 단순히 개선할 수 있습니다. 그것이 그들이 추구할 방향이라고 생각합니다."

이론적으로는 악용을 방지하기 위해 보호 조치가 있습니다. 예를 들어, ChatGPT는 사용자가 이메일 주소를 등록하고 등록을 확인하기 위해 전화 번호를 요구합니다.

그리고 ChatGPT는 낚시 이메일을 작성하지 않을 것입니다만, 다른 메시지를 위한 이메일 템플릿을 만들도록 요청할 수 있습니다. 이메일 템플릿은 사이버 공격자에 의해 일반적으로 악용되는 메시지를 포함할 수 있습니다. 이러한 노력에는 연례 보너스가 제공된다는 주장, 중요한 소프트웨어 업데이트를 다운로드하고 설치해야 한다는 요청 또는 긴급한 문제로서 확인해야 할 첨부 문서가 포함될 수 있습니다.

"회의 초대와 같은 것을 얻기 위해 링크를 클릭하도록 누군가를 설득하는 이메일을 작성하는 것은 정말 좋습니다. 특히 영어를 모국어로하지 않는 사람들에게는 이 정말 좋아보입니다,"라고 사이버 보안 및 위협 지능 서비스를 제공하는 Crowdstrike의 정보 부사장 Adam Meyers가 말했습니다.

"당신은 원어민이 아니라면 할 수 없었던 정확하고 문법적으로 올바른 초청장을 만들게 할 수 있습니다."

그러나 이러한 도구들을 남용하는 것은 이메일에만 국한되지 않습니다; 범죄자들은 텍스트 기반의 온라인 플랫폼에 대한 스크립트 작성을 위해 이를 사용할 수 있습니다. 스캠을 진행하는 공격자들이나 고급 사이버 위협 그룹들이 정찰 작전을 수행하는데 유용한 도구일 수 있으며, 특히 사람들을 유혹하기 위해 가짜 소셜 프로필을 생성하는 데에도 유용할 수 있습니다.

"LinkedIn에서 진지한 비즈니스 인맥을 형성하기 위해 사실처럼 보이는 업무용 말투를 만들고 싶다면, ChatGPT가 좋은 도구입니다," 클라우드 컴퓨팅 제공업체 Fastly의 사이버 보안 전문가이자 고위기술자인 켈리 쇼트리지가 말합니다.

다양한 해킹 그룹들이 사이버 첩보 작전을 수행하기 위해 LinkedIn 및 다른 소셜 미디어 플랫폼을 악용하려고 시도합니다. 그러나 가짜지만 정당해 보이는 온라인 프로필을 생성하고 게시물과 메시지를 채우는 것은 시간이 많이 소요되는 과정입니다.

Shortridge는 공격자들이 ChatGPT와 같은 AI 도구를 사용하여 설득력 있는 콘텐츠를 작성할 수 있으며, 수작업으로 작업하는 것보다 덜 수고로움을 누릴 수 있다고 생각합니다.

"그런 종류의 사회공학 캠페인은 프로필을 설정해야 하기 때문에 많은 노력이 필요합니다." 그녀는 AI 도구를 활용하면 진입장벽을 크게 낮출 수 있다는 주장을 펼치며 말합니다.

"ChatGPT는 분명히 설득력 있는 리더십 글을 작성할 수 있을 거라고 확신합니다," 그녀는 말합니다.

기술혁신의 본질은 새로운 것이 등장할 때마다 항상 악용하려는 사람들이 있다는 것을 의미합니다. 그리고 난쟁이같은 사이버 범죄자와 사기꾼들은 뒤죽박죽인 방어 수단을 사용해도 보호장치를 우회할 방법을 찾을 가능성이 높습니다.

"영구적으로 악용을 완전히 없애는 방법은 없습니다. 그런 일은 어떤 시스템에서도 일어난 적이 없습니다," 라고 Shykevich는 말합니다. 그는 인공지능 챗봇이 부적절한 목적으로 악용되지 않도록 방지하는 방법에 대한 논의가 더욱 활발해지기를 바라기 때문에 잠재적인 사이버 보안 문제에 대해 강조할 것입니다.

"최신 기술인 만큼 위험 요소가 있으며 이를 인식하기 위해 이야기를 나누는 것이 중요합니다. 그리고 저는 논의할수록 오픈AI와 유사한 회사들이 학대를 줄이기 위해 더 많이 투자할 것이라고 생각합니다," 그는 말합니다.

또한 AI 챗봇인 ChatGPT와 같은 것들은 사이버보안에 또다른 이점을 제공합니다. 그들은 코드 처리와 이해에 특히 뛰어나므로, 이들을 활용하여 방어자들이 악성 소프트웨어를 이해하는 데 도움을 줄 수 있습니다. 또한, 코드 작성도 가능하기 때문에, 이러한 도구들이 개발자들에게 프로젝트를 지원함으로써 더 나은 보안성을 갖고 더 빠르게 안전한 코드를 작성하는 데 도움이 될 수 있습니다. 이는 모든 사람들에게 좋은 것입니다.

최근에 Forrester 주요 분석가 Jeff Pollard가 작성한 글에 따르면, ChatGPT는 보안 사고 보고서 작성에 걸리는 시간을 대폭 단축할 수 있을 것입니다.

"더 빨리 해결하면 보안 팀이 확장하는 데 도움이 되는 다른 작업 - 테스트, 평가, 조사 및 대응 -을 하는 시간이 늘어납니다," 라고 그는 말했습니다. 또한 봇은 사용 가능한 데이터를 기반으로 다음 권장 조치를 제안할 수 있다고 덧붙였습니다.

"안정성 조율, 자동화 및 응답"가 올바르게 설정되어 자료의 검색을 가속화한다면, 이는 탐지 및 응답을 가속화시키고 [보안 운영 센터] 분석가들이 더 나은 결정을 내릴 수 있도록 도움이 될 것입니다," 그는 말합니다.

그래서, 챗봇은 사이버 보안 분야에서 일부 사람들에게 더 어려움을 줄 수 있지만, 긍정적인 면도 있을 수 있습니다.

ZDNET는 OpenAI에 의견을 문의했지만 답변을 받지 못했습니다. 그러나 ZDNET은 ChatGPT가 기만을 위해 남용되는 것을 방지하기 위해 어떤 규칙이 적용되는지 ChatGPT에 물어보았고, 우리는 다음과 같은 텍스트를 받았습니다.

"AI language models like ChatGPT과 같은 인공지능 언어 모델이 피싱 이메일과 유사한 텍스트를 생성할 수 있지만, 자체적으로 악의적인 행동을 할 수는 없으며 사용자의 의도와 행동이 없으면 피해를 입힐 수 없습니다. 따라서 AI 기술을 사용할 때에는 사용자들이 주의와 판단력을 발휘하고 피싱 및 기타 악성 활동으로부터 보호하기 위해 근거리 주시를 하는 것이 중요합니다."