IT

미 우주군이 또 확장한다는 뉴스를 봤는데, 솔직히 처음엔 그냥 스크롤 내리려다가 멈췄어. 우주군이라는 단어 자체가 아직도 SF 같거든. 근데 이게 현실이야. 트럼프가 예산 더 붙이겠다고 하고, 시진핑은 시진핑대로 우주 정거장 군사 모듈 얘기가 나오고. 푸틴은 뭐, 위성 요격 실험 했다는 소문이 또 돌고. 근데 내가 진짜 멈춘 건 그 다음 문장이었어. AI 기반 자율 교전 판단 시스템 도입 검토. 이게 뭐냐면, 사람이 버튼 안 눌러도 AI가 알아서 "저건 위협이다, 요격한다"를 결정한다는 거잖아. 우주에서. 잠깐. 이거 좀 무섭지 않아? 지상에서도 자율무기 논쟁이 끝이 안 나는데, 우주로 올라가면 통신 지연이 있잖아. 지구-위성 간 신호가 왔다 갔다 하는 데 몇 초씩 걸리니까 사람이 실시간으로 판단을 내릴 수가 없어. 그러면 자연스럽게 "AI한테 맡기자"가 되는 거고. 기술적으로는 합리적이야. 근데 윤리적으로? 나는 모르겠어 진짜. AI가 적 위성이랑 민간 위성을 구분 못 하면 어떡해. 우주 쓰레기가 위협으로 오인되면? 알고리즘 오작동 한 번이 외교 문제가 아니라 전쟁이 되는 거야. 지상에서 드론 오폭 한 번 나면 민간인이 죽어. 우주에서 위성 하나 잘못 격추하면 GPS 먹통, 통신 마비, 금융 시스템 셧다운. 수천만 명이 영향 받아. 개발자로서 생각해보면, 결국 그 AI도 누군가 짠 코드잖아. 학습 데이터 편향되면 판단도 편향돼. if-else로 전쟁과 평화를 나눌 수 있어? loss function 최적화해서 사람 목숨을 변수로 넣을 수 있어? 나는 코드 한 줄 잘못 짜서 서버 터진 것도 식은땀 나는데, 그게 미사일이면? 요즘 LLM이 할루시네이션 일으키는 거 다들 알잖아. 챗봇이 헛소리하면 웃고 넘기지. 근데 군사 AI가 할루시네이션 일으키면? "위협으로 판단됩니다" 한 줄이 도시 하나를 날릴 수도 있는 거야. 그걸 사후에 "오류였습니다" 하면 되돌릴 수 있어? 안 되잖아. UN에서 자율살상무기 규제 논의한다고 몇 년째 얘기만 하고 있고, 실질적으로 구속력 있는 건 아무것도 없어. 각국이 서로 눈치만 보면서 "우리만 안 하면 뒤처진다"는 논리로 개발은 계속하고. 이거 냉전 때 핵 경쟁이랑 뭐가 달라. 아니, 더 무서워. 핵은 최소한 사람이 결정했잖아. 이건 기계가 결정하겠다는 거야. 나는 기술 좋아하는 사람이야. AI가 세상을 더 편하게 만들어주는 건 맞아. 근데 편한 것과 위험한 것 사이에 선이 있어야 하잖아. 자율주행이 사고 나면 책임 소재도 아직 정리가 안 됐는데, 자율교전의 책임은 누가 져? AI 만든 회사? 배치 명령 내린 장군? 코드 짠 개발자? 아무도 안 지겠지. 다들 "시스템이 판단한 거다"라고 할 거야. 킬 스위치를 넣으면 되지 않냐고? 그게 있으면 자율이 아니잖아. 자율이 아니면 통신 지연 문제를 못 풀어. 그러면 다시 원점이야. 이 딜레마가 풀리질 않아. 솔직히 답이 없어서 글을 쓰는 거야. 기술은 멈출 수 없고, 윤리는 따라가질 못하고. 누군가는 이 간극에서 선을 그어야 하는데, 그게 개발자여야 하는 건지 정치인이어야 하는 건지 군인이어야 하는 건지도 모르겠어. 한 가지만 확실한 건, 이건 SF가 아니라 지금 일어나고 있는 일이라는 거야. 우리가 스마트폰 보면서 릴스 넘기는 동안에, 누군가는 전쟁을 판단하는 AI의 임계값을 0.1 올릴지 내릴지 회의하고 있다는 거지. 그리고 그 0.1이 누군가의 삶과 죽음을 가른다는 거. 그냥... 기술이 발전할수록 사람이 더 깨어 있어야 하는 거 아닌가 싶어. 편해지는 만큼 무감각해지면 안 되는 거잖아. AI가 전쟁을 결정하는 시대가 오면, 그때 "왜 아무도 안 막았지?"라고 물을 사람은 결국 우리니까.