ChatGPT와 새로운 인공지능은 흥미로운 방식으로 사이버 보안에 큰 혼란을 야기하고 있습니다.

생성적인 인공지능은 사이버보안을 변화시키고 있으며, 공격자와 방어자 모두에게 도움이 됩니다. 사이버 범죄자들은 대규모로 정교하고 혁신적인 공격을 개시하기 위해 AI를 활용하고 있습니다. 그리고 방어자들은 동일한 기술을 사용하여 중요 인프라, 정부 기관 및 기업 네트워크를 보호하고 있습니다. 이는 위협 인텔리전스 플랫폼 Recorded Future의 CEO인 크리스토퍼 알버그가 말했습니다.

생성형 인공지능(Generative AI)은 악의적인 행위자들이 사이버 보안 방어 체계보다 한 발 더 앞서게 할 수 있도록 혁신하고 새로운 공격 전략을 개발하는 데 도움을 주었습니다. 인공지능은 사이버 범죄자들이 공격을 자동화하고 공격 표면을 탐색하며 다양한 지리적 영역과 인구 통계에 맞는 콘텐츠를 생성하는 데 도움을 줌으로써 다양한 국가의 잠재적 피해 대상을 대상으로 공격할 수 있도록 했습니다. 사이버 범죄자들은 기술을 채택하여 신뢰성 있는 피싱 이메일을 만들어냈습니다. 인공지능이 생성한 텍스트는 공격자들이 개인화된 이메일과 문자 메시지를 생성하고 타겟을 속이기 더 유리하게 합니다.

"상상력을 많이 발휘하지 않아도 알 수 있는 것은, 이것이 실제로 [사이버 범죄자들]을 저자로 만들어 줄 수 있다는 것이 문제입니다," Ahlberg는 말했습니다.

방어 전문가들은 AI를 사용하여 공격에 대항하고 있습니다. 기업은 이 기술을 사용하여 유출을 방지하고 네트워크 취약점을 예방적으로 찾습니다. 또한 동적으로 특정 키워드에 대한 경고 설정 및 온라인에서 민감한 정보 감지와 같은 작업을 자동화합니다. 위협 사냥꾼들은 AI를 사용하여 이상한 패턴을 식별하고 대량의 데이터를 요약하며, 다양한 정보 출처 및 숨겨진 패턴 사이의 관계를 파악합니다.

작업은 여전히 인간 전문가의 도움이 필요하지만, Ahlberg은 ChatGPT와 같은 프로젝트에서 볼 수 있는 생성 AI 기술이 도움이 될 수 있다고 말합니다.

"우리는 분석 주기를 가속화하여 생각하는 속도로 분석하는 데 도움을 주고자 합니다," 그는 말했습니다. "그건 정말 어려운 일인데, 여기서 첨단 기술의 돌파구를 보고 있는 것 같아 정말 흥미롭습니다."

알베르그는 또한 고도로 지능적인 기계가 가져올 수 있는 잠재적인 위협에 대해 논의했습니다. 세계가 점점 더 디지털화되고 상호 연결되면서 현실을 왜곡하고 인식을 조작하는 능력은 악의적인 주체에 의해 악용될 수 있습니다. 이러한 위협은 국가에 국한되지 않으며, 이는 전체적으로 더 복잡하고 비대칭적인 상황을 야기합니다.

인공지능(AI)은 이러한 신흥 위협으로부터 보호를 도울 수 있는 잠재력을 가지고 있지만, 그 자체로도 일련의 위험을 가지고 있습니다. 예를 들어, 고성능의 기계는 인간보다 빠르고 효과적으로 시스템을 해킹할 수 있습니다. 이러한 위협을 대처하기 위해, 우리는 AI가 방어적으로 사용되고 누가 통제하고 있는지에 대한 명확한 이해를 보장해야 합니다.

인공지능이 사회에 더 많이 통합되면, 입법자, 판사 및 기타 의사 결정자들이 이 기술과 그 영향력을 이해하는 것이 중요합니다. 기술 전문가와 정책 결정자들 간의 강력한 동맹을 형성하는 것은 위협 추적 및 그 너머의 인공지능의 미래를 탐색하는 데 결정적인 역할을 할 것입니다.

인공지능(AI)을 활용한 사이버 보안에서의 기회, 도전과 윤리적 고려 사항은 복잡하고 변화하는 중입니다. 편견 없는 AI 모델을 보장하고 의사 결정에 인간의 참여를 유지하는 것은 윤리적 도전에 대처하는 데 도움이 될 것입니다. 주의력, 협력 및 기술에 대한 명확한 이해는 고도로 지능적인 기계의 잠재적인 장기적 위협에 대응하는 데 중요합니다.

Ahlberg는 또한 중국, 러시아 및 경제적 상대국이 자율 기계를 배치하는 데 대한 우려도 표명했습니다. 이러한 국가들은 아마도 AI 개발속도를 늦출 것이나 윤리적 고려사항을 공유하지는 않을 것으로 예상됩니다. 이러한 기계에 대한 "전원을 끊을 수 있는" 능력을 가지는 것은 현명한 안전장치이지만, 기술의 사회 및 글로벌 경제로의 통합은 이를 분리하기 어렵게 만들 가능성이 있다고 그는 미추하고 있습니다. Ahlberg는 누가 제어하는지에 대한 명확한 개념으로 제품과 기계를 설계하는 필요성을 강조합니다.

"이 모든 것에서 인터넷이 하는 큰 일은, 인터넷이 세계의 모든 정보가 이주하는 장소가 되는 것이라고 할 수 있습니다,"라고 Ahlberg가 말했습니다. "이러한 대형 언어 모델은 상당히 마법같은 일을 하고 있습니다... 생각 주기를 가속화하기 위해요."

그는 덧붙여 말했다, "다음 25년 동안 세계는 인터넷의 반영이 될 것이다."