Зубчатая граница (Jagged Frontier)

Зубчатая граница — идея о том, что у возможностей ИИ есть неровная, непредсказуемая граница: задачи, кажущиеся человеку одинаково трудными, оказываются по разные её стороны. Модель может безупречно набросать тонкую стратегическую записку, а затем провалить простую задачу на подсчёт или упорядочивание, которую осилит ребёнок. Линия между «ИИ отлично с этим справляется» и «ИИ здесь тихо ошибается» зубчатая, а не плавный градиент сложности, и она не совпадает с человеческими интуициями о том, что легко, а что трудно. Термин происходит из исследования 2023 года о работниках умственного труда, использующих ИИ. Для разработчиков практический вывод таков: нельзя судить, справится ли модель с конкретной задачей, по аналогии с похожей на вид — кажущаяся сложность плохо предсказывает результат. Практическая заметка: тестируйте каждую способность, которую собираетесь выпускать, на реальных примерах, а не предполагайте, что сила в одной задаче переносится на соседнюю. Опытным путём составьте карту того, где ваш конкретный сценарий лежит на этой границе, и перепроверяйте при смене модели.