


요즘 회사들은 직원들이 AI를 업무에 더 많이 활용하도록 사내 경진대회를 열곤 합니다. 직원들은 AI에게 아이디어를 설명하고, 업무를 돕는 프로그램이나 웹사이트를 짧은 시간 안에 만들어 선보입니다. 반복 업무를 줄이고 새로운 아이디어를 시험할 수 있다는 점에서 반가운 변화입니다.
경진대회에서 만든 프로그램이 좋은 평가를 받아 실제 업무에 도입되기도 합니다. 화면도 잘 뜨고, 필요한 기능도 돌아갑니다. 팀원들이 써 보더니 “이거 편리한데요?”라며 계속 사용하기 시작합니다.
그런데 이 프로그램은 회사 내부 자료나 고객정보를 안전하게 다루고 있을까요? 이 프로그램을 만든 직원이 부서를 옮기거나 퇴사해도 누군가 고칠 수 있을까요? 문제가 생기면 누가 책임지고, 어떻게 멈춰야 할까요?
AI에게 원하는 기능을 설명하고 프로그램을 만드는 방식인 ‘바이브코딩’이 퍼지면서 이런 질문이 중요해졌습니다. 개발자가 아니어도 업무 도구와 웹사이트를 빠르게 만들 수 있다는 점은 큰 장점입니다. 아이디어를 시험하는 데 걸리는 시간과 비용도 줄어듭니다.
하지만, 프로그램이 잘 작동한다고 해서 안전하다는 뜻은 아닙니다. AI로 빠르게 만든 프로그램을 회사에서 쓰려면, 작동 여부뿐 아니라 보안과 운영 방법도 확인해야 합니다.
잘 작동하는 것과 안전한 것은 다르다
AI는 사용자가 요청한 기능을 빠르게 만드는 데 도움을 줍니다. 하지만 그 결과물에 보안 문제가 없는지, 회사에서 오랫동안 관리할 수 있는지까지 자동으로 보장해 주지는 않습니다.
예를 들어 로그인 화면이 정상적으로 작동해도, 다른 사람의 계정으로 정보를 볼 수 있는 허점이 있을 수 있습니다. 입력값을 제대로 확인하지 않아 공격자가 데이터베이스에 접근할 수도 있습니다. 이런 문제는 화면만 살펴봐서는 알기 어렵고, 코드와 실제 동작을 함께 확인해야 합니다.
회사에서 AI로 만든 프로그램을 충분히 확인하지 않고 사용하면 다음과 같은 문제가 생길 수 있습니다.
첫째, 보안 허점이 남을 수 있습니다.
입력값 검증이나 계정 권한 확인이 부족하면 사용자 정보를 잘못 보여 주거나, 허가받지 않은 사람이 기능을 사용할 수 있습니다.
둘째, 비밀번호나 API 키가 코드에 들어갈 수 있습니다.
외부 서비스에 연결하기 위해 필요한 인증 정보를 코드에 직접 적어 두면, 코드가 외부에 공개되거나 다른 사람에게 전달될 때 회사 시스템으로 들어가는 길이 될 수 있습니다. 인증 정보는 코드와 분리해 안전하게 관리해야 합니다.
셋째, 회사 정보가 외부로 전달될 수 있습니다.
AI 서비스와 연결된 프로그램이 직원이 입력한 내용이나 회사 문서를 외부 AI로 보내도록 만들어졌을 수 있습니다. 어떤 정보가 어디로 전달되는지 먼저 확인해야 합니다. 회사가 허용한 AI 서비스인지, 입력한 정보가 저장되거나 다시 활용되는지도 살펴야 합니다.
넷째, 회사에서 관리하지 않는 프로그램이 늘어날 수 있습니다.
직원이 만든 간단한 도구가 내부 데이터베이스나 외부 서비스와 연결되면, 어느새 회사 업무에 꼭 필요한 프로그램이 될 수 있습니다. 하지만 정식 개발 절차와 자산 관리에서 빠져 있으면 보안 점검이나 업데이트 대상에서도 빠질 수 있습니다. 쉐도우IT가 늘어나는 것입니다.
다섯째, 업데이트가 끊길 수 있습니다.
프로그램에 사용된 오픈소스나 외부 서비스에 문제가 생겨도 담당자가 없으면 고치기 어렵습니다. 만든 직원 한 명만 프로그램 구조를 알고 있다가 그 직원이 다른 업무를 맡거나 퇴사하면, 장애가 생겨도 원인을 찾지 못할 수 있습니다.
여섯째, AI가 만든 코드를 사람이 충분히 이해하지 못할 수 있습니다.
AI는 짧은 시간에 많은 코드를 만들고 고칠 수 있습니다. 하지만 사람이 변경 내용을 검토하지 않으면, 여러 기능이 서로 영향을 주면서 새로운 문제가 생겨도 발견하지 못할 수 있습니다.
결국 중요한 것은 AI가 코드를 만들었는지 여부만이 아닙니다. 어떤 정보와 시스템에 연결되는지, 누가 권한을 갖는지, 누가 업데이트하고 책임지는지가 함께 확인돼야 합니다.
개인 실험과 회사 서비스는 기준이 다르다
개인이 혼자 시험해 보는 프로그램과 여러 직원이 함께 쓰는 회사 프로그램은 조건이 다릅니다. 개인 실험이라도 회사 계정이나 실제 고객정보를 사용하면 위험이 생길 수 있습니다. 따라서 처음 만들 때부터 가짜 데이터나 제한된 시험용 데이터를 사용하고, 운영 시스템과 분리된 환경에서 확인해야 합니다.
회사에서 쓰기 시작하면 고려할 것이 더 많아집니다. 직원들이 업무에 의존하게 되고, 고객정보나 회사 자료가 오갈 수 있습니다. 프로그램이 멈추면 업무가 중단될 수도 있습니다. 그래서 개인이 만든 시제품을 회사 정식 서비스로 바꾸려면 보안 검증과 운영 책임자를 정해야 합니다.
바이브코딩을 막을 필요는 없습니다. 아이디어를 빠르게 만들고 시험하는 장점은 살리되, 회사 업무에 적용하기 전 확인하는 절차를 갖추면 됩니다.
첫 번째는 프로토타입 만들기입니다.
AI를 활용해 아이디어를 빠르게 구현합니다. 이때는 시험용 데이터와 분리된 환경을 사용하고, 고객정보나 인사정보처럼 민감한 자료를 넣지 않습니다.
두 번째는 작게 시험하는 파일럿입니다.
처음부터 전 직원에게 배포하지 말고 일부 사용자만 참여하게 합니다. 사용 범위를 제한하고, 실제 운영 데이터나 중요한 시스템에 접근할 수 없도록 설정합니다. 사용해 보면서 기능이 맞는지뿐 아니라 예상하지 못한 동작이 있는지도 확인합니다.
세 번째는 보안 점검입니다.
이 단계에서 코드와 실제 동작을 함께 확인합니다. 다른 사람의 계정으로 정보에 접근할 수 있는지, 비밀번호와 API 키가 코드에 남아 있지 않은지, 회사 정보가 외부 서비스로 전달되는지 살펴봅니다. 프로그램이 회사 시스템에 꼭 필요한 권한만 갖고 있는지도 확인해야 합니다.
자동화된 보안 도구를 활용할 수도 있습니다. 정적 애플리케이션 보안테스트(SAST)는 프로그램의 코드를 살펴보며 보안 문제를 찾는 검사입니다. 의존성 점검은 프로그램이 사용하는 외부 라이브러리나 오픈소스에 알려진 취약점이 있는지 확인합니다. 동적 애플리케이션 보안 테스트(DAST)는 프로그램을 실제로 실행해 로그인이나 입력 처리 등에서 문제가 있는지 시험합니다.
이런 검사는 보안 문제를 찾는 데 도움을 주지만, 검사 결과만으로 안전성이 보장되는 것은 아닙니다. 담당자가 코드와 권한, 데이터 흐름을 살펴보고 필요한 경우 전문가의 검토를 받아야 합니다. 보안 요구사항도 개발이 끝난 뒤 한 번에 확인하기보다, 만드는 과정에서 작은 단위로 반복해 점검하는 것이 좋습니다.
네 번째는 정식 서비스로 운영하는 것입니다.
보안 점검을 한 후 운영 담당자와 업데이트 방법을 정해야 합니다. 장애가 생겼을 때 누가 대응하는지, 문제가 커지기 전에 어떻게 서비스를 멈추는지, 데이터와 프로그램을 어떻게 복구할지도 준비해야 합니다. 만든 사람이 업무를 바꾸거나 퇴사할 때를 대비해 코드와 운영 방법을 다른 담당자에게 넘길 수 있어야 합니다.
프로토타입 → 파일럿 → 보안 점검 → 정식 운영 순서로 이뤄져야 합니다. 보안은 세 번째 단계에서만 챙기는 일이 아닙니다. 처음 만들 때부터 데이터와 권한을 제한하고, 시험과 운영 전환 과정에서 계속 확인해야 합니다.
AI 점검은 시작점, 최종 판단은 사람
AI에게 자신이 만든 코드를 검토하게 할 수 있습니다. 예를 들어 “보안 담당자 관점에서 이 코드의 문제를 위험도별로 나눠 설명해 줘”라고 요청할 수 있습니다. 다른 AI를 활용해 검토 결과를 비교하는 방법도 있습니다.
그렇다고 AI의 검토 결과를 최종 승인으로 삼아서는 안 됩니다. AI가 만든 코드를 다른 AI가 검토해도, 두 시스템이 같은 문제를 놓칠 수 있습니다. 또한 코드만 봐서는 회사의 실제 권한 설정이나 데이터 흐름을 알기 어렵습니다.
AI 점검은 문제를 찾기 위한 첫 단계로 활용하고, 최종 판단은 담당자가 해야 합니다. 프로그램이 접근하는 정보와 시스템을 확인하고, 필요한 권한만 부여해야 합니다. 중요한 정보의 외부 전송이나 계정 권한 변경처럼 영향이 큰 작업에는 사람의 승인을 두는 것도 필요합니다.
리더가 물어야 할 질문
조직에서 프로그램 도입을 검토할 때 “잘 작동하나요?”만 물어서는 부족합니다.
프로그램이 해킹되거나 잘못 작동하면 어떤 피해가 생기는지, 어떤 회사 정보와 시스템에 접근하는지 챙겨야 합니다. 프로그램을 만든 사람이 자리를 비워도 누가 고칠 수 있는지, 외부 AI나 서비스가 멈추면 업무에 영향을 끼치는지 파악해야 합니다. 업데이트와 보안 점검은 누가, 얼마나 자주 하는지, 문제가 생겼을 때 서비스를 멈추고 이전 상태로 되돌릴 수 있는지 알고 있어야 합니다.
이 질문에 답하기 어렵다면, 아직 회사의 정식 서비스로 운영할 준비가 되지 않은 것입니다.
AI가 코드를 만들 수는 있지만, 그 프로그램을 회사에서 실제로 사용할지 결정하고 안전하게 운영할 책임은 조직에 있습니다. 작은 파일럿과 반복적인 점검, 담당자 지정과 업데이트 체계. 이 과정을 갖추는 것이 바이브코딩의 속도를 살리면서 회사 중요 데이터를 지키는 길입니다.

Popular Articles
More Articles





