인공지능 기술의 보안

자율주행 자동차에서 간과할 수 없는 중요한 분야.

인공지능은 진정으로 컴퓨터 과학의 혁명적인 위업으로, 앞으로 몇 년, 몇 십 년 동안 모든 현대 소프트웨어의 핵심 구성요소가 될 것이다. 이것은 위협을 주기도 하지만 기회도 준다. 방어와 공격 사이버 작전을 모두 증강하기 위해 AI가 투입된다. 또한, 인공지능 기술의 특별한 약점을 이용하기 위해 새로운 사이버 공격 수단이 개발될 것이다. 마지막으로 데이터 보호에 대해 우리가 어떻게 생각해야 하는지를 재정의하면서 대량의 교육 데이터에 대한 AI의 욕구로 데이터의 중요성이 증폭될 것이다. 시대에 뒤떨어진 이 기술이 광범위한 안전과 번영을 공유하도록 하기 위해서는 글로벌 차원의 신중한 정책이 필수적일 것이다. 인공지능 및 사이버 보안. 유명한 데이터 침해나 수백만 달러의 피해를 입은 사이버 공격에 대한 뉴스 기사가 없는 날은 거의 하루도 없다. 사이버 손실을 추정하기는 어렵지만 국제통화기금은 세계 금융 부문의 연간 100억~2500억 달러 범위에 둔다. 게다가, 컴퓨터, 모바일 기기, 서버 및 스마트 기기의 취약성이 계속 증가함에 따라, 총 위협 노출은 매일 증가하고 있다. 비즈니스와 정책 커뮤니티가 여전히 사이버 영역의 새로운 중요성에 머리를 싸매기 위해 고군분투하고 있는 가운데, 사이버 보안에 대한 인공지능의 적용은 더 큰 변화를 예고하고 있다. 인공지능의 본질적인 목적 중 하나는 이전에는 인간의 지능이 필요했을 작업을 자동화하는 것이다. 한 조직이 프로젝트를 완성하기 위해 고용해야 하는 노동 자원을 줄이거나, 개인이 일상적인 업무에 쏟아야 하는 시간을 줄이면 효율성이 엄청나게 향상된다. 예를 들어 챗봇을 이용해 고객서비스 질문을 현장화하고, 의료보조 인공지능을 활용해 환자의 증상을 바탕으로 질병을 진단할 수 있다. 인공지능이 사이버 방어에 어떻게 적용될 수 있는지에 대한 단순화된 모델에서 서버 및 네트워크 구성요소의 기록된 활동의 로그 라인은 "적대" 또는 "비적대"로 표시할 수 있으며, 이 데이터 세트를 사용하여 인공지능 시스템을 교육하여 향후 관찰을 두 가지 등급 중 하나로 분류할 수 있다. 그러면 시스템은 정상적인 활동의 방대한 배경 잡음에서 비정상적인 관찰을 배제하는 자동 감시 장치 역할을 할 수 있다. 이러한 종류의 자동화된 사이버 방어는 지금 감시되어야 하는 압도적 수준의 활동을 다루기 위해 필요하다. 우리는 인공지능을 이용하지 않고도 적대 행위자에 대한 방어와 신원확인을 수행할 수 있는 복잡성의 수준을 지났다. 앞으로 인공지능을 과제에 적용하는 시스템만이 사이버 보안 환경에서 발견되는 복잡성과 속도를 처리할 수 있게 된다. 공격방지에 인공지능 활용되듯 모든 유형의 적대 행위자들도 인공지능을 활용해 패턴을 인식하고 잠재적 목표물의 취약점을 파악하고 있기 때문에 이러한 인공지능 모델을 지속적으로 재교육하는 것이 필수적이다. 놀이 상태는 각방이 끊임없이 상대방을 탐색하며 새로운 방어나 새로운 형태의 공격을 구상하는 전쟁터인데, 이 전쟁터는 시시각각 변하고 있다. 아마도 해커의 무기에서 가장 효과적인 무기는 "스피어 피싱"일 것이다. 의도된 대상에 대해 수집된 개인 정보를 사용하여 개인별로 맞춤화된 메시지를 보내는 것이다. 친구가 작성한 것으로 보이는 이메일이나 대상자의 취미와 관련된 링크는 의심을 피할 가능성이 높다. 이 방법은 현재 상당히 노동 집약적이어서 해커가 의도한 목표 각각에 대한 상세한 연구를 수동으로 수행해야 한다. 단, 챗봇과 유사한 인공지능를 사용하여 검색 이력, 이메일 및 트윗에서 얻은 데이터를 사용하여 다수의 사용자에게 개인화된 메시지를 자동으로 구성할 수 있다. 이런 식으로 적대적 행위자는 인공지능을 이용해 공격 작전을 획기적으로 확장할 수 있다. 인공지능은 소프트웨어의 보안 결함에 대한 검색을 자동화하는 데도 활용될 수 있다. 이것은 합법적이거나 범죄적인 의도로 행해질 수 있다. 소프트웨어 설계자는 범죄자들이 운영체제에서 발견되지 않은 공적을 검색하는 것처럼 인공지능을 사용하여 제품 보안에 구멍이 있는지 테스트할 수 있다. 인공지능은 기존의 범죄와 방어를 위한 전략을 증가시킬 뿐만 아니라, 악의적인 행위자들이 이 기술의 특별한 약점을 이용하기 위한 방법을 모색함에 따라 사이버 보안을 위한 싸움에서 새로운 전선을 열 것이다. 적대적인 배우들이 이용할 수 있는 한 가지 새로운 공격의 길은 "데이터 중독"이다. 인공지능은 데이터를 이용해 학습하기 때문에 적대 행위자들이 원하는 대로 인공지능을 훈련시키기 위해 사용하는 데이터 세트를 조작할 수 있다. "수리적 예"는 또 다른 새로운 형태의 공격을 제공할 수 있다. 착시현상과 유사하게 대립적인 예는 인공지능의 입력 데이터를 사람이 감지할 수 없는 방식으로 수정하는 것으로 구성되지만, 인공지능이 특정 방식으로 입력을 잘못 분류하도록 하기 위해 계산된다. 널리 추측되고 있는 한 시나리오에서, 정지 신호는 미묘하게 변경되어 자율주행 자동차를 제어하는 인공지능 시스템이 그것을 잠재적으로 치명적인 결과와 함께 잘못 인식하게 할 수 있다. 자율주행 자동차에 있어서 인공지능을 과신하다가는 큰 사고를 초래할 수 있다는 얘기다. 하지만 동시에 '자율'이라는 명칭을 획득하려면 그만큼의 신뢰가 필요하기도 하다. 앞서 언급한 인공지능의 해킹과 관련된 문제들을 잘 챙기지 않는다면, 자율주행 자동차의 상용화도 더뎌지게 될 것이라는 생각이 든다. 안전한 인공지능 기술의 발전을 기원해 본다.