Безопасный AI

Безопасный AI

LLM может написать что-то плохое — оскорбить кого-то, например. И пользователь LLM может написать что-то плохое — скажем, отправить на чужой сервер какую-то очень секретную информацию. То и другое может быть крайне неприятно для компании, которая использует генеративный AI в своем бизнесе.

Российский #стартапдня HiveTrace предназначен для защиты от подобного рода проблем. Его предобученная на всякие гадости нейросеть ставится как модератор между чатом и "основным" AI и проверяет, что обе стороны пишут друг другу. При этом обычно она работает на серверах заказчика и утечка к ней утечкой не является. Тем более она не обидится на что-то оскорбительное.

Стоит внедрение HiveTrace относительно дорого — типичный чек составляет миллионы рублей плюс цена железа. Клиенты соответственно — крупные банки с телекомами, а не магазины у дома.

Летом стартап привлек 10 миллионов рублей инвестиций от университетской стартап-студии МФТИ.

https://hivetrace.ai/

#россия #seed #технология #ai