Безопасный AI

Стартап дня. Александр Горный.··1 мин чтения
Безопасный AI

LLM может написать что-то плохое — оскорбить кого-то, например. И пользователь LLM может написать что-то плохое — скажем, отправить на чужой сервер какую-то очень секретную информацию. То и другое может быть крайне неприятно для компании, которая использует генеративный AI в своем бизнесе.

Российский #стартапдня HiveTrace предназначен для защиты от подобного рода проблем. Его предобученная на всякие гадости нейросеть ставится как модератор между чатом и "основным" AI и проверяет, что обе стороны пишут друг другу. При этом обычно она работает на серверах заказчика и утечка к ней утечкой не является. Тем более она не обидится на что-то оскорбительное.

Стоит внедрение HiveTrace относительно дорого — типичный чек составляет миллионы рублей плюс цена железа. Клиенты соответственно — крупные банки с телекомами, а не магазины у дома.

Летом стартап привлек 10 миллионов рублей инвестиций от университетской стартап-студии МФТИ.

https://hivetrace
.ai/

#ро
ссия #seed #технология #ai
Стартап дня. Александр Горный.
Стартап дня. Александр Горный.

660 публикаций на visbl.me

Авторский канал о стартапах и интернет-бизнесе. Реклама на этом канале: https://docs.google.com/presentation/d/1BFSEj7FEQZpB4K83iBXo1yqIoPnwJaVGpsyKDHKSX0s/edit РКН: https://clck.ru/3FPm3j Личный аккаунт: @gornal Реклама: @Vzuhcha ВП нет

Связанные темы

Читать далее