AI와 사이버 보안: 불에 불로 대응하기

인공지능(AI)은 새로운 복잡한 사이버 보안 문제를 야기하고 있습니다. 그러나 그것은 또한 해결책을 제시할 수 있습니다.

인공지능(AI)의 용도는 끝이 없어 보입니다. AI는 우리가 듣고 싶은 다음 노래를 예측하거나, 복잡한 개념을 쉽게 이해할 수 있는 용어로 풀어 설명하고, 자동화된 프로세스를 통해 기업들이 더 효율적으로 운영될 수 있도록 돕습니다.

그러나 AI는 학교에서의 부정행위나 완전한 사기와 같은 비윤리적인 행동이나 불법적인 행위를 지원하는 데도 사용될 수 있습니다. 특히 생성형 AI는 텍스트와 이미지 같은 새로운 콘텐츠를 생성하여 돈이나 민감한 데이터에 접근하는 데 활용될 수 있습니다. 생성형 AI의 보편화는 사이버 범죄가 2020년 3조 달러에서 2025년 10.5조 달러로 증가할 것으로 예상되는 이유일 수 있습니다.¹

“해커들은 점점 더 창의적인 방법으로 AI를 사용하고 있습니다,”라고 레이몬드 제임스 기술 부사장인 제프 그리피스는 사이버 보안 전문가들이 AI가 만들어내는 위협과 기회에 대해 이야기하며 말했습니다. “하지만 우리도 마찬가지입니다.”

생성형 AI가 초래하는 위험

AI는 기존의 사기 수법을 더 정교하고 실행하기 쉽게 만들고 있습니다. 예를 들어, 피싱 이메일은 인간처럼 보이려는 자들이 흔히 범하는 맞춤법과 문법 오류 때문에 상대적으로 쉽게 구별할 수 있었습니다. 하지만 이제는 사이버 범죄자들이 AI를 활용해 친근하고 자연스럽게 들리는 이메일을 작성할 수 있습니다. 또한 AI를 사용하여 사기를 더욱 개인화하고, 각 수신자에게 더 적합한 내용으로 만들어낼 수 있습니다.

또 다른 우려는 ‘딥페이크’의 등장입니다. 해커들은 쉽게 목소리를 복제하여 거의 모든 말을 하게 만들 수 있습니다. “이것은 턴키 방식이고, 하기 매우 쉽습니다,”라고 그리피스는 말했습니다. “비용도 비싸지 않아요. 제가 유명한 목소리를 복제한 적이 있는데, 누구라고 말할 필요도 없었어요. 그냥 재생했더니 모두가 바로 알아봤습니다.”

동일한 기술은 비디오에도 사용할 수 있습니다. 지금은 사람들이 여분의 손가락이나 잘못된 팔꿈치 같은 세부적인 오류를 찾아서 딥페이크를 구별할 수 있지만, 이 기술은 빠르게 발전하고 있습니다.

“2년 전과 비교했을 때, 2년 후에는 구별하지 못할 가능성이 큽니다,”라고 그리피스는 말했습니다.

AI가 사이버 보안 작업을 강화하는 방법

다행히도, 같은 기술이 이러한 위협을 완화하는 데에도 사용될 수 있습니다. 많은 회사들 – 레이몬드 제임스도 포함하여 – 이미 고급 AI 사이버 보안 도구를 사용하여 시스템을 방어하고 데이터를 보호하고 있습니다.

예를 들어, AI는 빠르게 커뮤니케이션을 분석하고 방대한 기록을 스캔하여 사람이 같은 속도나 정확도로 읽을 수 없는 데이터를 처리할 수 있습니다. 또한 기업들은 AI를 사용하여 사이버 범죄자들이 사용할 수 있는 다양한 공격 시나리오를 예측하고, 이를 방어할 방법을 이해할 수 있습니다.

“좋은 사람들과 나쁜 사람들 간의 끝없는 경쟁입니다,”라고 그리피스는 말했습니다. “성곽을 쌓고 강화하면, 범죄자들은 그 안으로 들어갈 방법을 찾습니다. 그래서 AI를 사용하는 것이 중요합니다. 왜냐하면 나쁜 사람들이 그것을 사용하기 때문입니다.”

일부 조직은 생성형 AI 도구를 사용하여 더 강력한 코드를 더 빠르게 작성하는 데 도움을 받습니다. 사이버 범죄자들도 그 도구들을 사용하여 백 명의 엔지니어가 동시에 작업하는 속도로 악성 코드를 만듭니다.

“우리는 AI를 사용하여 개발자들이 더 나은 코드를 더 빠르게 작성하고, 문제가 발생하기 전에 취약점을 식별하며, 실시간으로 시스템을 보호하도록 돕고 있습니다,”라고 그리피스는 말했습니다. “AI는 우리의 전문가들이 환경을 안전하게 보호하고 훌륭한 기능을 제공할 수 있는 능력을 증대시킵니다. 이를 통해 우리는 혁신과 안전의 최전선에 있을 수 있습니다.”

출처 : ¹사이버 보안 벤처