인공지능의 해악(The harm of AI)

인공지능의 해악(The harm of AI)

인공지능(AI)은 컴퓨터로 음성 또는 시각적인 이미지를 인식하는 것과 의사결정을 하는 모든 인간 지능 작업을 수행하는 것을 말합니다.

 

 

인공지능(AI)의 악의적인 사용은 상업시설의 대규모의 정밀 표적화와 고효율 공격을 허용함으로써 디지털, 물리적, 정치적 보안에 심각한 위험을 줄 수 있습니다.

 

즉, 업무시설의 취약한 시스템에 침투하여 자동화된 해킹 공격으로 마비를 일으키고, 무인 자동차 충돌로 인명피해를 발생시키고, 상업용 드론 표적 무기로 공격하여 군사적 긴장감을 갖게 만듭니다.

 

또한 인공지능(AI)은 정치적으로 감시와 흑색선전을 주도하여 잘못된 정보를 퍼뜨릴 수 있습니다.

 

모든 사용 가능한 데이터를 기반으로 인간의 신념, 정신, 행동을 세밀하게 분석하여 향상된 능력을 활용하여 새로운 공격에 악용하고 있습니다.

 

연구원들은 인공지능(AI)이 5년 이내에 악의적으로 사용될 가능성이 기술적으로는 희박하다고 생각하지만 어느 곳에서는 소규모로 제한적으로 발생하고 있다고 합니다.

 

해커들은 사이버 공격을 실행하기 위한 인공지능(AI) 트리거로 애플리케이션 기능을 미리 정의하고 악성 프로그램의 악성코드를 숨깁니다.

 

이는 프로그램 사용자가 가입한 특정 시간에 실행되도록 코드를 프로그래밍을 합니다.

 

악성코드는 시간이 지나도 세밀한 탐지 없이는 노출이 안 되고, 수년 동안 취약한 프로그램에 침투해 있을 수 있습니다.

 

인공지능(AI) 복잡성

 

요즘은 피싱이 사회적인 문제로 떠올랐습니다.

물고기를 낚는다는 뜻으로 단순히 이메일 주소를 가져와서 공개적으로 사용 가능한 개인 데이터를 스크랩하여 피싱 이메일이 설득력 있게 보이도록 한 다음 피해자에게 전송하고 그들이 미끼 물기를 기다리는 수법입니다.

 

 

해커가 보낸 이메일을 받고 그 문서를 열었을 때 멀웨어는 네트워크 자격 증명을 훔칩니다.

해커는 즉시 이 계정을 사용하여 여러 개의 새 계정을 만들고 권한이 있는 시스템 관리자 그룹을 추가하여 이메일, 은행, 개인정보 등을 수집합니다.

 

해커들은 자신들의 이익을 위해 멀웨어를 사용하여 신용카드 번호, 의료 데이터, 사회보장 서비스 관련 데이터까지 사회 전반에 손실을 입히고 있습니다.

 

많은 소셜미디어 프로필, 사진, 비디오 스트리밍, 온라인 쇼핑 계정 등의 공객적 특성은 모두 악성 기계 학습 알고리즘의 재료가 될 수 있습니다.

 

더욱이 국가적 사이버 공격으로 정치적, 경제적인 비용이 천문학적으로 변했고, 이에 따른 몸값을 담보로 하는 전문적인 시나리오도 등장했습니다.

 

인공지능(AI)을 프로그램을 이용하여 2015년 러시아에서는 해커들이 은행 프로그램에 침투하여 3년 동안 1조 원 정도를 훔쳤고, 2016년 일본에서는 ATM 기계를 해킹하여 3시간 동안 1억 4천만 원정도 강탈했다고 합니다.

 

시간이 지남에 따라 인공지능(AI)을 이용한 공격이 더욱 복잡해질 것이고, 대부분의 국가기관이나 기업들은 공격을 대처할 준비가 안 되어 있을 가능성이 많습니다.

 

이에 따라 국가적으로 산업 전반에 올바른 인공지능(AI)을 사용하도록 권고하고, 범죄유발과 관련해서는 엄격한 처벌이 뒤따를 것이라고 선포해야 합니다.