소식

Jul 07, 2023

팀원이 기계인 경우: CISO가 AI에 관해 물어봐야 할 8가지 질문

AI의 불가피성으로 인해 많은 사이버 보안 리더는 AI가 친구인지 적인지 결정해야 합니다. 팀원으로 대하는 것이 궁극적인 해결책일 수 있지만 CISO는 여러 가지 뾰족한 질문을 가지고 있습니다.

AI의 불가피성으로 인해 많은 사이버 보안 리더는 AI가 친구인지 적인지 결정해야 합니다. 이를 팀원으로 대하는 것이 궁극적인 해결책일 수 있지만 CISO가 물어봐야 할 몇 가지 날카로운 질문이 있습니다.

인공 지능은 우리가 모든 일을 하는 방식을 변화시키고 있습니다. 우리가 어디를 가든 과거에는 인간이 수행했던 작업을 기계가 수행하고 있습니다. 이러한 AI 기반 인스턴스는 자율주행 차량부터 인간이 전화를 걸기 전에 탐색해야 하는 고객 서비스 봇까지 모든 영역을 실행합니다. 사이버 보안에서 AI는 빠르게 적의 친구이자 힘의 승수가 되었습니다. 좋든 싫든 기계를 팀원으로 보는 것은 CISO가 수용하는 법을 배워야 하는 현실이 되었지만 AI 조수를 맡기 전에 많은 질문을 해야 합니다.

이 개념은 새로운 것이 아닙니다. 2019년 65명의 공동 과학자로 구성된 국제 팀은 "협동 연구원의 검증된 의견을 기반으로 설계된 기계 팀원의 예상 효과를 조사하기 위해 공동 연구원이 사용할 수 있는 연구 의제를 제공"하려는 의도로 주제에 대한 819개의 연구 질문을 생성했습니다. 의심의 여지 없이 공동 과학자 팀에서 발전한 연구 포인트 중 일부는 미 국방부의 책임 있는 AI 원칙 및 지침에 반영되었습니다. 이 원칙은 AI가 사용되기 전에 반드시 갖춰야 할 5가지 데이터 포인트인 책임감, 공평성, 신뢰성을 포착했습니다. 추적 가능하고 신뢰할 수 있으며 관리 가능합니다.

AI를 팀 동료로 활용하는 개념을 구상하려면 F-35 다목적 전투기를 자율 윙맨 역할을 하는 전투 드론과 결합하여 효율성을 향상시키려는 미 공군의 계획을 살펴보기만 하면 됩니다. AI로 강화된 드론과 협력하여 항공기는 인간의 능력을 뛰어넘는 속도로 정보를 축적할 수 있습니다. 은퇴한 CIA 장교이자 소설가인 JR Seeger에 따르면, 이는 "관찰, 방향 설정, 결정, 행동(OODA) 루프를 통해 속도와 민첩성을 통해 이동하게 하며 결과적으로 실시간 정보 수신자가 더욱 능숙해질 수 있게 해줍니다"라고 말합니다. .

StrikeReady CEO인 Anurag Gurtu는 AI가 효과적으로 자동화 프로세스의 확장이 될 것이며 광범위하게 확장된 정보를 발견하여 복잡성을 더욱 빠른 속도로 평가하는 데 도움이 될 것이라고 말했습니다. 구르투는 "AI는 CISO가 생산성을 향상하고, 숙련된 분석가의 역량을 강화하고, 워크로드의 일부를 덜어내고, 직원을 유지하려고 할 때 가장 잘 작동한다"고 말했다.

우리가 브레이크 없이 금속 페달을 밟고 있는 것처럼 느낄 수도 있지만, Gurtu는 "AI는 또한 속도에 맞춰 프로세스를 실행하는 능력을 지원하고 감지 작업을 강화하며 다음과 같은 기능을 제공하도록 조정될 수 있습니다."라고 말했습니다. 표적이 되거나 공격을 받을 확률이 있는 분석가입니다."

과거에는 의사결정 트리와 규칙 기반 모델로 인해 위협 및 취약성 탐지가 상당히 힘든 프로세스가 되었지만 "AI를 사용하면 서로 다른 데이터 세트를 가져와 분석가의 '설명 가능성'을 향상시킬 수 있습니다."라고 Gurtu는 말합니다. 불가지론적 설명(LIME)과 SHAP(Shapley Additive exPlanations)는 모두 설명 가능성에 도움이 됩니다.

Gurtu는 "점점 더 많은 기업이 생성 AI를 통합하고 있으며 '환각' 증가에 대비해야 하며 더 많은 기업이 그렇게 할수록 대규모 환각이 다가오고 있습니다"라고 말했습니다. 생성 AI 결과에서 환각을 피하는 방법은 그래프 AI 언어 모델을 사용하는 것이라고 그는 말합니다.

요점을 설명하기 위해, 실제 사례를 찾을 수 없을 때 존재하지 않는 판례법을 '환각'시킨 AI 챗봇의 도움으로 작성된 최근 법원에 제출된 변호사의 브리핑만 보면 됩니다. 이로 인해 판사는 AI를 사용하여 작성된 모든 보고서를 인간이 식별하고 검증하도록 명령을 내렸습니다. Gurtu는 "그래프 방법론을 활용하는 AI는 사용자에게 맥락을 이해할 수 있는 최고의 능력을 제공합니다."라고 말합니다. "그렇지 않으면 언급한 대로 [결과는] 엄청난 환각입니다."