AI 기술의 눈부신 발전이 기업 환경에 혁신을 가져오는 동시에, 전례 없는 보안 위협을 야기하며 주요 안보 의제로 떠올랐다. 사이버 보안 기업 탈레스(Thales)가 발표한 ‘2025 데이터 위협 보고서’에 따르면, 다수 기업이 AI와 양자 컴퓨팅 기술이 초래할 보안 문제, 특히 생성형 AI의 빠른 발전 속도를 가장 큰 위협으로 인식하고 있는 것으로 나타났다.

보고서에 따르면, 응답 기업의 약 70%가 생성형 AI의 발전 속도를 가장 큰 보안 우려 사항으로 꼽았다. 이는 AI 시스템의 무결성 부족(64%)과 신뢰성 결여(57%)에 대한 걱정으로 이어지고 있다. 생성형 AI는 모델 훈련과 콘텐츠 생성 과정에서 방대한 양의 데이터를 필요로 하며, 이 과정에서 민감 정보가 활용될 수 있어 데이터 보안의 중요성이 더욱 커지고 있다.

문제는 많은 기업이 AI 도입의 속도전에만 매몰되어 있다는 점이다. S&P 글로벌 마켓 인텔리전스의 수석 분석가 에릭 한셀만은 “기업들이 앞서 나가기 위해 서두르면서 신중함을 희생하는 경우가 많다”고 지적했다. 이처럼 조직적 준비가 미흡한 상태에서 무리하게 혁신을 추진하는 것은 기업 스스로 가장 심각한 보안 취약점을 만드는 행위가 될 수 있다.

물론 기업들도 손을 놓고 있는 것은 아니다. 응답자의 73%는 AI 관련 위협에 대응하기 위해 새로운 예산을 편성하거나 기존 자원을 재분배하여 AI 보안 전문 도구에 투자하고 있다고 밝혔다. 특히 생성형 AI 보안은 클라우드 보안에 이어 두 번째로 높은 지출 우선순위를 차지하며, AI 기반 위험에 대한 기업들의 경각심과 전문적인 방어 체계 구축의 시급성을 보여주었다.

AI와 더불어 양자 컴퓨팅 기술 역시 미래의 중대한 위협으로 부상하고 있다. 보고서는 ‘미래 암호화 손상’ 가능성을 가장 큰 위협으로 지목했다. 이는 향후 양자 컴퓨터가 현재의 암호화 알고리즘을 무력화시켜 안전하다고 믿었던 데이터를 해독할 수 있다는 우려다. 이에 대응해 많은 기업이 양자내성암호(PQC) 솔루션을 평가하고 있으나, 전문가들은 혁신과 보안 사이의 균형을 맞추는 것이 여전히 어려운 과제라고 강조하며 철저한 대비를 주문했다.