人工智能与机器学习 - 2026 进行中

科目: 人工智能与机器学习
级别: XII (I级最简单，XII级最难)
类别: 大学生
试题语言: Русский
题数: 15
问题示例: При авторегрессионной генерации текста уже вычисленные ключи и значения self-attention сохраняются в KV-кэше. Какое асимптотическое преимущество это даёт при последовательной генерации токенов? Для каждого нового токена не требуется повторно вычислять ключи и значения предыдущих токенов, Полностью устраняется квадратичная зависимость от длины контекста при однократном обучении, Вычисление softmax заменяется линейным преобразованием, Градиенты по всем предыдущим токенам становятся равными нулю