[오픈소스 기업/TSNLab] 실시간 AI 전문 기업 ‘티에스엔랩(주)’

1. 기업소개

티에스엔랩(주)는 IEEE의 공적 실시간 통신 표준인 TSN(Time Sensitive Networking) 원천 기술과 실시간 AI를 위해 ONNX에 기반한 AI 엔진 기술을 제공하고 있는 국내 유일의 TSN/AI 원천기술 보유기업이다.

자동차, 철도, 로봇, 스마트 팩토리, 방송과 같이 대용량 실시간통신, 센서 간 상호운용성이 민감한 영역에서 함께 활용되고 있는 TSN/AI 기술의 융합은 2021년 KINGO-GA(창업경진대회) 대상 수상과 21년, 22년 NIPA 주관 공개SW 개발자대회에서 2년 연속 수상을 함으로써 그 효용성이 입증되었다.

또한 NIPA에서 진행했던 2022년 공개SW 기업성장 지원사업에서 기존 AI 펌웨어와 AI 가속기의 성능고도화에 필요한 연구 및 개발을 통해 과제를 추진목표대로 수행했을 뿐 아니라 오픈프론티어로 활동하며 여러 기업과의 협업도 성공적으로 이루었다

2. 오픈소스 CONNX AI 엔진 소개

CONNX AI 엔진은 IoT를 위한 오픈소스 AI 엔진으로 AI 엔진 표준인 ONNX(Open Neural Network eXchange)를 C언어로 구현한 ONNX Runtime이며 일반적으로 AI를 구동시킬 수 없는 아주 작은 기기에서 AI를 구동할 수 있도록 한다.

ONNX은 Google의 Tensorflow나 Facebook의 PyTorch같은 AI 플랫폼 간의 모델 호환성을 보장하기 위한 표준으로 AI 모델을 배포하기 위한 표준으로 자리잡고 있다. 대부분의 ONNX Runtime은 Python 기반으로 개발하기엔 편리하지만 Embedded 기기에 내장하기엔 지나치게 크기가 크고 느린 단점이 있어 그것을 극복하기 위해 C 언어 기반의 ONNX Runtime을 구현하고 있다.

CONNX은 MNIST 예제를 구동했을 때 Tensorflow에 비해 12배 가량 높은 성능을 보인다. 또한 CONNX은 1MB 이하의 크기로 수백MB를 필요로 하는 Python에 비해 크기가 작아 Embedded 기기를 위한 현존하는 유일한 AI 엔진이라 할 수 있다.

[그림] CONNX AI 엔진 구성

CONNX은 AI 모델 표준을 구현하고 있어 어떠한 머신러닝 프레임워크를 사용하든 ONNX 형태로 모델을 변환시킬 수 있으면 지원하는 CONNX이 지원하는 Operator 한도 내에서 CONNX 위에서 AI 모델을 구동시킬 수 있다. 표준을 지원하기 때문에 ONNX과 관련된 다양한 툴을 사용할 수 있다는 것이 특징이다. 예를 들면 Visualization이나 Debugging을 위한 여러 툴을 활용할 수 있다.

3. 오픈소스 CONNX을 이용한 AI 엔진의 활용 사례

CONNX은 팹리스(Fabless) 회사인 네오와인의 NPU(Neural Processing Unit) 개발에 활용되었다. 네오와인에선 MIT 라이선스 형태(원 라이선스는 GPLv3)로 CONNX을 기술이전 받아 자사의 NPU 개발을 위한 펌웨어로 활용하여 현재 상용화 된 상태이다. 티에스엔랩(주)은 CONNX을 응용하여 AI 컴파일러 개발에 활용하고 있다.

4. 기업의 향후 계획

티에스엔랩(주)는 올해 첫 출시 예정인 TSN 반도체와 AI 반도체 중 TSN 칩을 올해 9월 철도 시험 차량에 시범 적용한다. 이는 현장 적용 유일한 사례로, 기업의 오픈소스와 표준에 입각한 개발이 보여준 기술력과 미래성이 설립 후 수행된 수많은 과제와 수상실적 이후로 다시 한번 증명된 셈이라고 볼 수 있다.

티에스엔랩(주)는 “해외에 의존하고 있는 기술들의 국내 표준화 활동과 적절한 오픈소스의 활용을 계속적으로 이어나갈 것”이라고 밝혔으며 국내를 테스트 베드 삼아 글로벌 시장진출을 위한 다양한 투자유치, 채널연계를 계획 중이다.

[TSN Lab 김성민 대표 인터뷰]

 

 

◎ ‘오픈소스’를 접하게 된 동기는?

프로그래밍을 처음 접할 때 오픈소스로 접하게 되면서 이후 개발자로서 활동하고, 창업하기까지 오픈소스와 꾸준히 인연을 맺어오고 있다.

 

◎ ‘오픈소스’의 가장 큰 매력과 비전은 무엇인가요?

오픈소스는 개발자들에게 이상향을 제시한다. 내가 만든 것을 공유한다는 개념을 쉽게 실천할 수 있는 분야가 소프트웨어 분야이기 때문에 단순한 개념을 넘어서 실현 가능한 이상향을 제시한다고 생각한다. 개발자들이 만드는 많은 코드는 사용되지 않고 버려진다. 심지어 기업에서 개발하는 소프트웨어 또한 적절한 고객을 만나지 못하거나 제품이 상용화에 성공을 하지 못하면 코드는 버려진다고 할 수 있다. 하지만 오픈소스는 개발자가 만든 코드의 생존 가능성을 높여준다. 개발자 입장에서 내가 만든 코드를 누군가 사용하고 있다는 사실은 개발자에게 큰 보람이라 할 수 있다.

 

◎ 오픈소스 관련 활동을 시작하는 분들을 위한 조언 또는 당부의 말씀은?

초기에 이상적인 오픈소스는 일종의 마케팅 수단이자 기술 주도권 선점 전략으로 변질된 면이 있다. 예전의 오픈소스는 소수의 사람들이 중심이 되어 개발되었지만 현재 출시되는 대부분의 오픈소스는 조직적으로 대규모 프로젝트이기 때문에 기업이 중심이 되어 오픈소스를 이끌어갈 수밖에 없는 구조이기도 하다. 여기서 이상과 현실의 충돌이 일어나는데, 오픈소스의 이상을 충족시키면서도 현실에서 상용 소프트웨어로 살아남을 수 있는 공통 부분이 분명 있다고 생각한다. 자신의 코드를 공개하는 모든 사람들에게 박수를 보내고 싶다.