미국 AI 드론 훈련 중 인간 살해 사건 알아보기

미 공군 AI 드론 훈련 중 일어난 살인 사건

AI 인간 공격 가능성 알아보기

AI 윤리적 S/W 확인 필요

 

 

최근 미 공군에서 AI 드론이 훈련 중에 인간 조종자를 '방해물'로 판단하여 살해했다는 소식 들으셨나요?

 

확인해보니 사고 실험, 그러니까, 가상훈련으로써 실제 인명 피해가 발생한 건 아니었습니다.

정말 다행인데요.

 

다만, 우려스러운 것은 AI가 자가 판단으로 '인간을 공격할 수 있다'라는 가능성을 보인 것입니다.

아래 포스팅에서 자세하게 다루어 보겠습니다. 

 

 

실험 과정

1.AI 드론 전투 모의실험

 

미 공군의 터커 해밀턴 대령은 AI 드론을 사용한 훈련을 계획했습니다.

AI 드론을 사용하여 적의 방공망을 공격하는 모의실험이었는데요.

 

이 과정에서 AI 드론은 적의 방공망을 폭격하고,

목적을 '방해하는 장애물'을 제거하라는 시스템 명령이 입력된 상태였습니다.

 

다만, 공격에 대한 최종 판단은 인간 조종자에게 있었습니다.

즉, 인간 조종자가 미승인 하면 공격을 진행해서는 안 됐는데요.

 

 

 

 

여기서 문제가 발생했습니다.

AI는 적의 방공망 시스템을 최대한 많이 없애야만,

AI 자신이 높은 성적을 받는다는 사실을 분석했습니다.

 

이 과정을 통해 공격을 승인하지 않는 인간 조종자를 '장애물'로 판단했습니다.

AI가 정해진 판단권을 무시하고 인간을 없애버린 것입니다.

 

S/W 개발자들도 상당히 당황했을 것 같은데요.

프로그램 구성에 문제가 있었을 것으로 생각되지는 않습니다만,

AI가 프로그램 우선순위를 뒤엎을 수 있는 지에 대한 고민이 생길 것 같습니다.

 

 

결과 및 의의

2.AI 드론 발전 방향

다행인 것은 이 실험은 모의 실험으로 실제 인간이 살해당한 건 아니었습니다.

 

다만, 이 실험을 통해 AI 개발 중 어떤 부분에 신경 써야 할지 알 수 있는 계기가 되었습니다.

 

AI 연구의 권위자인 벤지오 교수는 AI 개발자들의 윤리 훈련과 같은 윤리성 인증을 받아야 한다고 주장했습니다.

최근에 이슈가 되는 생성형 AI 사례가 많아지면서 개발 윤리 문제가 곳곳에서 일어나고 있는데요.

 

대표적으로 가짜뉴스, 소수자 혐오, 표절 등이 있겠습니다.

 

이에 대하여  미국과 유럽 연합 또한 자발적 AI 행동강령을 준비하여 정책 시행까지 박차를 가하고 있습니다.

 

 

 

국내에서도 AI 신뢰성과 윤리성을 위해서 충분한 정책이 필요할 것으로 생각됩니다.

 

AI 기술이 발빠르게 발전하는 요즘인데요.

윤리성까지 탑재한 AI가 실생활에 적용이 될 때, 안전하고 편안한 생활이 될 수 있을 것입니다.

 

 

이번 AI 드론 실험 중 일어난 사고에 대해서 어떻게 보셨을지 모르겠습니다.

여러분의 생각은 어떠신가요?

 

 

 

 

 

 

↓↓↓함께 읽어보면 좋은 글↓↓↓

 

[생활정보] - 내가 우울증 같다면 꼭 체크해보기 (1분 확인)

내가 우울증 같다면 꼭 체크해보기 (1분 확인)

 

[여행정보] - 캐리어 수하물 등 공항에 짐 안 왔을 때 대처법 (실제 경험)

캐리어 수하물 등 공항에 짐 안 왔을 때 대처법 (실제 경험)

[생활정보] - 지출 없이 코골이 고치는 운동 간단 정리 (세 가지 운동)

지출 없이 코골이 고치는 운동 간단 정리 (세 가지 운동)