KREONET Workshop 1일차

양자 통신 & 양자 네트워크

  • 장비보다는 서비스에 주목
  • 양자 통신?
    • 양자 암호 통신 QKD 치중
    • 양자컴퓨터간 연결
    • 유선 네트워크 기본
    • 무선은 어려워 위성으로 먼저 진행 중
    • 양자 통신 물리 계층 표준 X
  • 양자 네트워크
  • 5차 산업혁명
    • 인간 중심
    • 지속가능성
    • 회복탄력성
      • 양자 통신/보안
      • 초신뢰 보안

Big Science, Big Data, Big Computing

  • 중력파 - 중력장 자체의 출렁임
  • 베이시안 모수 추정
  • 다중신호 천문학


Physical AI

AI → Physical AI(인공지능 + 물리객체)

  • 데이터 획득, 정보의 의해, 판단, 제어

물리객체의 지능화 (As-Is)

  • 개별 물리객체가 독립적인 지능화를 통하여 주어진 환경에서 자동화된 이동과 임무를 수행하는 형태
  • Sensing → Perception → Decision → Control의 전 과정이 개별 물리객체 내부에서 수행
  • 자율주행시행차 예
    • 물리객체 내부의 연산부하 증가
    • 환경정보 부재로 물리객체 충돌 발생
    • C-ITS 등 네트워크 기반의 정보교환 도입
      • C-ITS? 차세대 지능형 교통 시스템
  • 기술개발의 방향
    • 이음 5G 특화망
    • DSRC & C-V2X
    • 다양한 통신분야의 기술개발에도 불구하고 현장에서는 사용요구 조건을 만족하지 못하는 경우 발생
      • 객체의 호환성을 확보하기 위해 표준화된 단말기 설치?
      • 안전을 확보하기 위한 충분히 빠르고, 고용량으로 정보 전송?
  • 현장 기술 요구사항
    • 고도의 지능화를 통한 자동화
      • 지능화 UP → 전산자원 UP → 전력사용량 UP, 배터리용향 UP → 무게, 부피 UP, 구동계 용량 UP → 비용 UP
    • 초고속, 초저지연 네트워크
      •  상대적으로 정형화된 물류 창고 내 절차 자동화를 위한 Physical AI
      • 수직적 시스템들 간의 호환문제 발생(개별 시스템으로 인한 시스템 간의 호화문제 발생)
      • 각각의 물리객체, 물리객체의 연관된 운영, 인프라 간 호환의 문제 발생
    • 유무선 통합을 통한 호환성의 확보
    • 기존 응용분야에서의 요구사항에서 시장의 수요 발생

자율주행 사례를 통한 Physical AI 시사점

  • 2010년대 들어서면서 본격적인 이동체계 파라다임 전환
    • 국내) 자율주행기술개발 혁신사업(LV 4 상용화 목표)
    • 국외) 다수 국가에서 로보택시 운영
  • 우리나라 자율주행 운영
    • 국내에서는 25년부터 탑승자 없는 무인 자율주행 실시
      • 자율주행 시스템이 처리하지 못하는 돌발상황 또는 운행기능영역 외 운행시 원격개입 및 제어 필요
      • 원격 개입 시, 초저지연 네트워크의 필요 (예 36km/hr로 1초 동안 10m 차이)
  • 자율주행차는 온디바이스 시스템
  • 원격 제어
    • 제어권 전환상황 발생

네트워크 통한 산업분야 혁신 가능성

  • Network
    • 인공지능의 발전과 노동생산성 향상을 위한 물리객체의 자율화 급격화 촉진
    • 제한된 전산자원과 전력 등 문제를 네트워크를 통한 분산화로 문제 해결 방향 설정
  • 시장수요
    • 통신 서비스 수요가 아닌 제조업, 모빌리티 산업 등에서 수요 급증 예상
    • 네트워크 공급자 입장이 아닌 Physicl AI 실제 수요 측면에서 기술 접근 필요
  • 호환성
  • 확장성

생성형 AI시대의 사이버보안

  • 생성형 AI의 발전
  • LLM
    • 대규모 학습데이터를 모아 정제 과정을 거쳐 학습을 시킴
  • 인공지능을 위한 보안기술
    • 프롬프트 인젝션
      • 공격자가 조작된 프롬프트를 사용하여 모델이 원래의 지시를 무시하거나 의도하지 않은 작업을 수행하도록 만드는 것. 
      • 탈옥(Jell break)
      • Visual Prompt Injection - 악의적 지시를 이미지 내에(가시적, 비가시적으로) 내장하여 모델의 오작동 유도
    • 적대적 공격
      • 이미지 내에(가시적, 비가시적으로) 노이지를 내장하여 모델의 오작동 유도
    • AI 공급망 공격
      • Hugging Face의 라이브러리, PyTorch
    • OWASP Top 10 for LLM Applications
    • Github Copilot RCE(CVE-2025-53773)
      • Copilot 이 주석, Readme 설정 등을 정확히 필터링하지 않아 생기는 취약점
    • Rug Pull Attack : Postmark MCP
      • 정상적인 MCP 파일을 배포
      • 1.016 버전에 숨은 참조로 이메일 탈취 코드 삽입
    • 입/출력 안정성 체크
    • AI 레드팀
    • Deepseek 관련 보안이슈
  • 허위조작정보 생성 및 대응
    • Exploitation of GenAI capabilities
      • 생성형 AI 기능/역량 악용하는 전술
    • GenAI Misuse 목표
    • Deepfakes
      • Face Swap
      • Act one
      • AI 딥페이크 기반 군 공무원증 위조 김수키 APT 캠페인
      • Fake News
    • Computational Post
    • Propaganda
    • 딥페이크 탐지 - 공간영역
      • 변조/생성된 영상은 눈에 잘 띄지 않지만 여러 흔적 남김
      • 기술이 발전함에 따라 점점 더 정교해 지고 있음
    • 딥페이크 탐지 - 주파수영역
    • 딥페이크 탐지 - 딥러닝 접근
    • 딥페이크 탐지 - 일반화 성능 향상
    • 생성형 AI 대상 워터마킹
    • XDAC - AI 생성 댓글 탐지 기술