Чат GPT на пальцах

Данная статья - продолжение прошлой статьи Искусственный интеллект на пальцах . В ней я описал основные принципы работы искусственного интеллекта, которые оказались очень простые. Я показал, как работает нейронная сеть, способная по фотографии отличать кошку от собаки и рассказал о том, что такое обучение с учителем. Однако кошечки и собаки это хорошо. Но как устроен чат GPT, и какое отношение все сказанное имеет к нему? Для этого надо рассказать о том, что такое обучение без учителя. Обучение с учителем отличный механизм, но для него нужен набор данных, в котором каждый элемент имеет свою трактовку. Например, многие тысячи фотографии разных животных, с указанием, кто это. В итоге в большинстве случаев самая трудоемкая часть разработки искусственного интеллекта - создание такого набора. А во многих случаях - сделать его и просто невозможно. Например, нереально разметить все тексты из интернета. Тут приходит на помощь обучение без учителя. То есть без предварительной разметки. На самом деле, ...