Небольшие данные (Small data) – это данные, представляемые в таких объеме и формате для понимания человеком, в каких они становятся доступными, информативными и действенными.

Недетерминированные алгоритмы (Nondeterministic algorithm) – это алгоритмы, которые даже для одних и тех же входных данных могут демонстрировать различное поведение при разных прогонах, итерациях, выполнениях. Он тесно связан с недетерминированными машинами Тьюринга и классами сложности NP. Это алгоритм, результат которого не может быть заранее определен.

Недоумение (Perplexity) – это показатель того, насколько эффективно вероятностная модель может предсказывать выборку в контексте статистического измерения информации. Например, BLEU – это показатель сложности для моделей языкового перевода, который измеряет, насколько хорошо модель может переводить с одного языка на другой.

Независимо и одинаково распределенные (Independently and identically distributed i.i.d) – это набор случайных данных (величин, переменных) в котором каждая случайная величина имеет такое же распределение вероятностей, как и другие, и все они взаимно при этом независимы. Классический пример iid появляется во время игры с подбрасыванием монеты. Случайные переменные, которые представляют каждый результат бросков (0 для решки и 1 для решки), подчиняются одному и тому же закону Бернулли. Более того, поскольку броски являются последовательными, результаты не зависят друг от друга, и, следовательно, случайные величины независимы.

Нейрокибернетика (Neurocybernetics) – это научное направление, изучающее основные закономерности организации и функционирования нейронов и нейронных образований. Основным методом нейрокибернетики является математическое моделирование, при этом данные физиологического эксперимента используются в качестве исходного материала для создания моделей. Одним из наиболее перспективных направлений нейрокибернетики -на стыке между психологией, биологией и информатикой является моделирование на основе нейронных сетей. Нейрокибернетика имеет широкий спектр приложений – от медико-биологических разработок до создания специализированных нейрокомпьютеров. [63]

Нейрокомпьютер (Neurocomputer) – устройство переработки информации на основе принципов работы естественных нейронных систем. Эти принципы были формализованы, что позволило говорить о теории искусственных нейронных сетей. Проблематика же нейрокомпьютеров заключается в построении реальных физических устройств, что позволит не просто моделировать искусственные нейронные сети на обычном компьютере, но так изменить принципы работы компьютера, что станет возможным говорить о том, что они работают в соответствии с теорией искусственных нейронных сетей [64