Почему школьнику важно понимать, как устроен искусственный интеллект

Искусственный интеллект в чат-ботах, лентах и переводчиках — это программа, которая на больших объемах данных научилась находить закономерности и по ним выдает самый вероятный ответ. Понимать это устройство важно потому, что из него прямо следуют правила пользования: ИИ может уверенно ошибаться, повторяет перекосы своих данных, запоминает не «истину», а частоты, и работает на тех данных, которые ему дают пользователи.

Ниже — устройство ИИ в четыре шага, игрушечная модель на Python, которую можно запустить за минуту, пять практических причин разбираться в теме и дорожная карта для школьника.

Четыре слова, которые путают

Коротко, от общего к частному: ИИ — вся область программ, решающих «интеллектуальные» задачи (перевод, распознавание речи, шахматы); машинное обучение — способ создать такую программу, когда правила не пишут вручную, а извлекают из данных; нейросеть — один из видов моделей машинного обучения; языковая модель (LLM) — нейросеть, обученная продолжать текст, на ней работают чат-боты вроде ChatGPT, GigaChat, Алисы AI.

Не всякий ИИ — нейросеть, и не всякая нейросеть — чат-бот. Когда в новостях пишут «ИИ решил», почти всегда речь о конкретной модели машинного обучения с конкретными данными.

Как устроен ИИ простыми словами: данные -> обучение -> модель -> ответ

Современные ИИ-сервисы строятся по одной схеме. Это упрощение: в реальных системах шагов больше (очистка данных, дообучение, фильтры безопасности), но основа такая.

1. Данные. Примеры, из которых модель учится: тексты, фотографии с подписями, история просмотров.
2. Обучение. Программа подбирает внутренние числа (параметры) так, чтобы на примерах из данных ошибаться как можно реже.
3. Модель. Результат обучения — набор параметров. Модель не хранит учебник целиком и не «понимает» его как человек, она хранит закономерности.
4. Ответ. На новый вход модель выдает то, что по этим закономерностям наиболее вероятно.

Ключевой вывод из таблицы: ни на одном шаге нет проверки «правда ли это». Модель оптимизирует то, чему ее учили: правдоподобие текста, время просмотра, совпадение с подписью.

Проверяем на игрушечной модели

Ниже — самая простая «языковая модель»: она запоминает, какое слово идет после какого, и строит фразы. Код целиком, проверен на Python 3.14.

import random
from collections import Counter, defaultdict

# 1. Данные: все, что "модель" увидит при обучении
corpus = (
    "кошка спит на диване . "
    "кошка сидит на окне . "
    "кошка ловит мышь . "
    "собака спит на полу . "
    "собака сидит на крыльце ."
).split()

# 2. Обучение: считаем, какое слово идет после какого
model = defaultdict(Counter)
for prev, nxt in zip(corpus, corpus[1:]):
    model[prev][nxt] += 1

print("после 'на':", dict(model["на"]))
print("после 'собака':", dict(model["собака"]))

# 3. Ответ: выбираем следующее слово пропорционально частоте
def generate(start, seed):
    rng = random.Random(seed)
    words = [start]
    while words[-1] != "." and len(words) < 8:
        options = model[words[-1]]
        if not options:
            break
        words.append(rng.choices(list(options), weights=list(options.values()))[0])
    return " ".join(words)

for seed in range(4):
    print(seed, generate("собака", seed))

Вывод прогона:

после 'на': {'диване': 1, 'окне': 1, 'полу': 1, 'крыльце': 1}
после 'собака': {'спит': 1, 'сидит': 1}
0 собака сидит на окне .
1 собака спит на крыльце .
2 собака сидит на диване .
3 собака спит на окне .

Что здесь важно:

• Все четыре фразы грамматически правильные, и ни одной из них нет в данных. Модель не знает, где сидит собака, она склеивает частые переходы. Так же в упрощенном виде появляются «галлюцинации» больших моделей: правдоподобно, но не проверено.
• Модель не выходит за пределы данных. Фразу «собака ловит мышь» она не построит никогда: после «собака» в данных были только «спит» и «сидит».
• Случайность встроена в ответ. Разный seed дает разные фразы, поэтому один и тот же вопрос чат-боту может получить разные ответы.

Граница упрощения: настоящие языковые модели — нейросети с миллиардами параметров, они учитывают длинный контекст, а не одно предыдущее слово, и дообучаются на оценках людей. Но принцип «выдать вероятное продолжение по данным» у них тот же.

Что будет, если в данных ошибка

Добавим в обучающий текст три одинаковые неверные фразы и посмотрим, как изменятся вероятности после слова «кошка».

from collections import Counter, defaultdict

def train(text):
    words = text.split()
    model = defaultdict(Counter)
    for prev, nxt in zip(words, words[1:]):
        model[prev][nxt] += 1
    return model

good = "кошка спит . кошка сидит . кошка ловит мышь ."
bad = good + " кошка лает ." * 3   # три одинаковые ошибки в данных

for name, text in [("чистые данные", good), ("с ошибкой", bad)]:
    after = train(text)["кошка"]
    total = sum(after.values())
    share = {w: f"{c / total:.0%}" for w, c in after.most_common()}
    print(name, share)

чистые данные {'спит': '33%', 'сидит': '33%', 'ловит': '33%'}
с ошибкой {'лает': '50%', 'спит': '17%', 'сидит': '17%', 'ловит': '17%'}

Ошибка, повторенная в данных чаще правды, становится для модели самым вероятным ответом. У больших моделей данные фильтруют, но полностью убрать ошибки, устаревшие сведения и перекосы нельзя.

Пять причин, почему школьнику важно понимать устройство ИИ

Последняя причина — про учебу. Модель может написать сочинение или решить уравнение, но на контрольной и экзамене ее не будет. Правила использования ИИ в учебе разные в разных школах и у разных учителей, поэтому о них лучше спросить своего учителя.

Как проверять ответ ИИ: короткий алгоритм

1. Определи тип вопроса. Факт (дата, число, цитата), рассуждение (решение задачи) или творчество (идея, текст). Для фактов риск ошибки самый высокий.
2. Для факта — найди независимый источник. Учебник, справочник, официальный сайт. Совпадение с другим ответом того же чат-бота проверкой не считается.
3. Для решения — пересчитай ключевой шаг сам или подставь ответ в условие.
4. Для кода — запусти его. Код от ИИ может выглядеть правильно и не работать или работать неверно на крайних случаях.
5. Попроси обоснование. «Почему так?», «Какие есть исключения?» — если объяснение противоречит ответу, это сигнал ошибки.

С чего начать разбираться в ИИ: дорожная карта

Цель — не «прочитать про ИИ», а сделать своими руками маленькую работающую модель. Реалистичный срок для школьника с базовыми навыками компьютера — несколько недель занятий по паре часов, без спешки.

1. Игровой старт. Платформы вроде Machine Learning for Kids позволяют обучить модель на своих примерах и подключить ее к проекту в Scratch. Итог: проект, который узнает, например, вежливые и грубые фразы.
2. Python на базовом уровне. Переменные, условия, циклы, списки, словари. Итог: можешь прочитать код игрушечной модели выше и объяснить каждую строку.
3. Своя игрушечная модель. Замени текст в corpus на свой (например, фразы из любимой книги) и посмотри, какие фразы получатся. Итог: понимаешь, как данные меняют поведение модели.
4. Первая модель машинного обучения. Библиотека scikit-learn и готовый учебный набор данных: обучить классификатор и измерить долю верных ответов на данных, которых модель не видела. Итог: модель с посчитанной точностью.
5. Школьная математика как опора. Проценты, вероятность, графики функций, позже — векторы. Их хватает, чтобы понимать основы.

Если не получилось

• python не найден в терминале. Python не установлен или не добавлен в PATH. На Windows при установке нужно отметить пункт про PATH, на macOS и Linux попробуй команду python3.
• ModuleNotFoundError: No module named 'sklearn'. Библиотека не установлена: python3 -m pip install scikit-learn. Обрати внимание, что имя пакета и имя модуля при импорте здесь разные.
• Игрушечная модель печатает только одно слово. Например, generate("кот", 0) вернет просто кот: такого слова нет в данных, модель не видела после него ни одного перехода, и цикл сразу останавливается. Начинай со слова из corpus.
• Модель на Scratch-платформе путает классы. Мало примеров или они слишком похожи. Добавь по 10-20 разных примеров на каждый класс.

Выводы

• Современный ИИ — это модель, обученная на данных находить закономерности; она выдает вероятный ответ, а не проверенный.
• Из устройства следуют правила: проверять факты, помнить о перекосах данных, не вводить личные данные, не подменять ИИ собственное решение задач.
• Игрушечная модель из пары десятков строк Python показывает те же эффекты, что большие модели: правдоподобные фразы, которых не было в данных, и зависимость от ошибок в обучающем тексте.
• Начинать лучше с практики: игровая платформа, базовый Python, своя маленькая модель, затем scikit-learn.

Где применяется / связь с практикой

FAQ

С какого возраста можно начинать разбираться в ИИ?
Игровые платформы с блоками подходят для младшей и средней школы, Python — обычно с 12-14 лет. При этом у многих чат-ботов в правилах использования есть возрастные ограничения и требование согласия родителей, их стоит прочитать до регистрации.

Можно ли точно определить, что текст написал ИИ?
Надежно — нет: сервисы-«детекторы ИИ» ошибаются в обе стороны и могут признать сгенерированным текст, написанный человеком. Поэтому результат такой проверки — повод для разговора, а не доказательство.

Правда ли, что ИИ «думает» как человек?
Нет в привычном смысле: модель вычисляет вероятный ответ по закономерностям из данных. Она может решать задачи, которые требуют от человека рассуждений, но не имеет собственных целей и не проверяет ответ на истинность, если такую проверку не встроили разработчики.