E104. Суффиксный автомат

Task

Источник: e-maxx.ru/algo, страница PDF 313.

Суффиксный автомат (или ориентированный ациклический граф слов) — это мощная структура данных, которая позволяет решать множество строковых задач. Например, с помощью суффиксного автомата можно искать все вхождения одной строки в другую, или подсчитывать количество различных подстрок данной строки — обе задачи он позволяет решать за линейное время. На интуитивном уровне, суффиксный автомат можно понимать как сжатую информацию обо всех подстроках данной строки. Впечатляющим фактом является то, что суффиксный автомат содержит всю

информацию в настолько сжатом виде, что для строки длины

он требует лишь

памяти. Более того, он

может быть построен также за время

(если мы считаем размер алфавита

константой; в противном случае —

за время

). Исторически, впервые линейность размера суффиксного автомата была открыта в 1983 г. Blumer и др., а в 1985 — 1986 гг. были представлены первые алгоритмы его построения за линейное время (Crochemore, Blumer и др.). Более подробно — см. список литературы в конце статьи. На английском языке суффиксный автомат называется "suffix automaton" (во множественном числе — "suffix automata"), а ориентированный ациклический граф слов — "directed acyclic word graph" (или просто "DAWG").

Определение суффиксного автомата

Определение. Суффиксным автоматом для данной строки

называется такой

минимальный детерминированный конечный автомат, который принимает все суффиксы строки . Расшифруем это определение.

● Суффиксный автомат представляет собой ориентированный ациклический граф, в котором вершины

называются состояниями, а дуги графа — это переходы между этими состояниями.

● Одно из состояний

называется начальным состоянием, и оно должно быть истоком графа (т.е. из него достижимы все остальные состояния).

● Каждый переход в автомате — это дуга, помеченная некоторым символом. Все переходы, исходящие из какого-

либо состояния, обязаны иметь разные метки. (С другой стороны, из состояния может не быть переходов по

каким-либо символам.)

● Одно или несколько состояний помечены как терминальные состояния. Если мы пройдём из

начального состояния

по любому пути до какого-либо терминального состояния, и выпишем при этом метки всех пройденных дуг, то получится строка, которая обязана быть одним из суффиксов строки .

● Суффиксный автомат содержит минимальное число вершин среди всех автоматов, удовлетворяющих описанным

выше условиям. (Минимальность числа переходов не требуется, т.к. при условии минимальности числа состояний в автомате не может быть "лишних" путей — иначе это нарушило бы предыдущее свойство.)

Простейшие свойства суффиксного автомата

Простейшим, и вместе с тем важнейшим свойством суффиксного автомата является то, что он содержит в

себе информацию обо всех подстроках строки

. А именно, любой путь из начального состояния

, если

мы выпишем метки дуг вдоль этого пути, образует обязательно подстроку строки

. И наоборот, любой

подстроке строки

соответствует некоторый путь, начинающийся в начальном состоянии . В целях упрощения объяснений, мы будем говорить, что подстроке соответствует тот путь из начального состояния, метки вдоль которого образуют эту подстроку. И наоборот, мы будем говорить, что любому пути соответствует та строка, которую образуют метки его дуг. В каждое состояние суффиксного автомата ведёт один или несколько путей из начального состояния. Будем говорить, что состоянию соответствует набор строк, соответствующих всем этим путям.

Примеры построенных суффиксных автоматов

Приведём примеры суффиксных автоматов, построенных для нескольких простых строк.

Начальное состояние мы будем обозначать здесь через

, а терминальные состояния — отмечать звёздочкой.

Для строки

:

Для строки

:

Для строки

:

Для строки

:

Для строки

:

Для строки

:

Для строки

:

Алгоритм построения суффиксного автомата за

линейное время

Перед тем, как перейти непосредственно к описанию алгоритма построения, надо ввести несколько новых понятий и доказать простые, но очень важные для понимания суффиксного автомата леммы.

Позиции окончаний

, их свойства и связь с

суффиксным автоматом

Рассмотрим любую непустую подстроку

строки

. Тогда назовём множеством окончаний

множество всех позиций в строке

, в которых оканчиваются вхождения строки

.

Мы будем называть две подстроки

и

-эквивалентными, если их множества окончаний

совпадают:

. Таким образом, все непустые подстроки строки

можно разбить

на несколько классов эквивалентности соответственно их множествам .

Оказывается, что в суффиксном автомате

-эквивалентным подстрокам

соответствует одно и то же состояние. Иными словами, число состояний в суффиксном автомате

равно количеству классов

-эквивалентности среди всех подстрок, плюс одно начальное состояние. Каждому состоянию суффиксного автомата соответствуют одна или несколько подстрок, имеющих одно и то же

значение

. Это утверждение мы примем как аксиому, и опишем алгоритм построения суффиксного автомата, исходя из этого предположения — как мы затем увидим, все требуемые свойства суффиксного автомата, кроме минимальности, будут выполнены. (А минимальность следует из теоремы Nerode — см. список литературы.) Приведём также несколько простых, но важных утверждений касательно значений .

Лемма 1. Две непустые подстроки

и

(

) являются

-

эквивалентными тогда и только тогда, когда строка

встречается в строке

только в виде суффикса строки

.

Доказательство практически очевидно. В одну сторону: если

и

имеют одинаковые позиции окончаний вхождения,

то

является суффиксом

, и она присутствует в

только в виде суффикса

. В обратную сторону: если

является суффиксом

и входит только как этот суффикс, то их значения

равны по определению.

Лемма 2. Рассмотрим две непустые подстроки

и

(

). Тогда их

множества

либо не пересекаются, либо

целиком содержится в

, причём

это зависит от того, является

суффиксом

или нет:

Доказательство. Предположим, что множества

и

имеют хотя бы один общий элемент.

Тогда это означает, что строки

и

оканчиваются в одном и том же месте, т.е.

— суффикс

. Но тогда

каждое вхождение строки

содержит на своём конце вхождение строки

, что и означает, что его

множество

целиком вкладывается в множество

.

Лемма 3. Рассмотрим некоторый класс

-эквивалентности. Отсортируем все подстроки, входящие в

этот класс, по невозрастанию длины. Тогда в получившейся последовательности каждая подстрока будет на единицу короче предыдущей, и при этом являться суффиксом предыдущей. Иными словами,

подстроки, входящие в один класс эквивалентности, на самом деле

являются суффиксами друг друга, и принимают всевозможные различные

длины в некотором отрезке

. Доказательство.

Зафиксируем некоторый класс

-эквивалентности. Если он содержит только одну строку, то корректность леммы очевидна. Пусть теперь количество строк больше одной.

Согласно лемме 1, две различные

-эквивалентные строки всегда таковы, что одна является

собственным суффиксом другой. Следовательно, в одном классе

-эквивалентности не может быть

строк одинаковой длины.

Обозначим через

длиннейшую, а через

— кратчайшую строку в данном классе эквивалентности. Согласно лемме

1, строка

является собственным суффиксом строки

. Рассмотрим теперь любой суффикс строки

с длиной в

отрезке

, и покажем, что он содержится в этом же классе эквивалентности. В самом

деле, этот суффикс может входить в

только в виде суффикса строки

(поскольку более короткий суффикс

входит только в виде суффикса строки

). Следовательно, согласно лемме 1, этот суффикс

-

эквивалентен строке

, что и требовалось доказать.

Суффиксные ссылки

Рассмотрим некоторое состояние автомата

. Как мы теперь знаем, состоянию

соответствует некоторый

класс строк с одинаковыми значениями

, причём если мы обозначим через

длиннейшую из этих строк, то

все остальные будут суффиксами

.

Также мы знаем, что первые несколько суффиксов строки

(если мы рассматриваем суффиксы в порядке убывания

их длины) содержатся в том же самом классе эквивалентности, а все остальные суффиксы (как минимум, пустой

суффикс) — в каких-то других классах. Обозначим через

первый такой суффикс — в него мы и проведём

суффиксную ссылку.

Иными словами, суффиксная ссылка

ведёт в такое состояние, которому

соответствует наидлиннейший суффикс строки

, находящийся в другом классе

-эквивалентности.

Здесь мы считаем, что начальному состоянию

соответствует отдельный класс эквивалентности (содержащий

только пустую строку), и полагаем

. Лемма 4. Суффиксные ссылки образуют дерево, корнем которого является начальное состояние .

Доказательство. Рассмотрим произвольное состояние

. Суффиксная ссылка

ведёт из него в

состояние, которому соответствуют строки строго меньшей длины (это следует из определения суффиксной ссылки и из леммы 3). Следовательно, двигаясь по суффиксным ссылкам, мы рано или поздно придём из состояния

в

начальное состояние

, которому соответствует пустая строка.

Лемма 5. Если мы построим из всех имеющихся множеств

дерево (по принципу "множество-

родитель содержит как подмножества всех своих детей"), то оно будет совпадать по структуре с деревом суффиксных ссылок. Доказательство.

То, что из множеств

можно построить дерево, следует из леммы 2 (о том, что любые два множества либо не пересекаются, либо одно содержится в другом).

Рассмотрим теперь произвольное состояние

и его суффиксную ссылку

. Из определения

суффиксной ссылки и из леммы 2 следует: что вкупе с предыдущей леммой и доказывает наше утверждение: дерево суффиксных ссылок по сути своей есть

дерево вкладывающихся множеств

. Приведём пример дерева суффиксных ссылок в суффиксном автомате, построенном для строки :

Промежуточный итог

Перед тем, как приступить к самому алгоритму, систематизируем накопленные выше знания, и введём пару вспомогательных обозначений.

● Множество подстрок строки

можно разбить на классы эквивалентности согласно их множествам окончания .

● Суффиксный автомат состоит из начального состояния

, а также по одному состоянию на каждый класс

-эквивалентности.

● Каждому состоянию

соответствует одна или несколько строк. Обозначим через

длиннейшую из

таких строк, через

её длину. Обозначим через

кратчайшую из таких строк, а её длину

через

. Тогда все строки, соответствующие этому состоянию, являются различными суффиксами строки

и

имеют всевозможные длины в отрезке

.

● Для каждого состояния

определена суффиксная ссылка, ведущая в такое состояние, которое

соответствует суффиксу строки

длины

. Суффиксные ссылки образуют дерево

с корнем в

, причём это дерево, по сути, является деревом отношений включения между множествами .

● Таким образом,

для

выражается с помощью суффиксной ссылки

как:

● Если мы стартуем из произвольного состояния

и будем идти по суффиксным ссылкам, то рано или поздно дойдём

до начального состояния

. При этом у нас получится последовательность непересекающихся

отрезков

, которые в объединении дадут один сплошной отрезок.

Алгоритм построения суффиксного автомата за линейное время

Приступим к описанию самого алгоритма. Алгоритм будет онлайновым, т.е. будет добавлять по одному

символу строки

, перестраивая соответствующим образом текущий автомат. Чтобы достичь линейного потребления памяти, в каждом состоянии мы будем хранить только значение

,

и список переходов из этого состояния. Метки терминальных состояний мы поддерживать не будем (мы покажем, как расставить эти метки после построения суффиксного автомата, если имеется необходимость в них).

Изначально автомат состоит из единственного состояния

, которое мы условимся считать нулевым

состоянием (остальные состояния будут получать номера

). Присвоим этому состоянию

, а

значению

присвоим для удобства

(означающее ссылку на фиктивное, несуществующее состояние). Соответственно, вся задача теперь сводится к тому, чтобы реализовать обработку добавления

одного символа

в конец текущей строки. Опишем этот процесс:

● Пусть

— это состояние, соответствующее всей текущей строке до добавления символа

. (Изначально

,

а после добавления каждого символа мы будем менять значение

.)

● Создадим новое состояние

, проставив ему

. Значение

пока

считаем неопределённым.

● Сделаем такой цикл: изначально мы стоим в состоянии

; если из него нет перехода по букве

, то добавляем

этот переход по букве

в состояние

, и затем переходим по суффиксной ссылке, снова проверяя — если

нет перехода, то добавляем. Если в какой-то момент случится, что такой переход уже есть, то останавливаемся —

и обозначим через

номер состояния, на котором это произошло.

● Если ни разу не случилось, что переход по букве

уже имелся, и мы так и дошли до фиктивного состояния

(в

которое мы попали по суффиксной ссылке из начального состояния

), то мы можем просто

присвоить

и выйти.

● Допустим теперь, что мы остановились на некотором состоянии

, из которого уже был переход по букве

.

Обозначим через

то состояние, куда ведёт этот имеющийся переход.

● Теперь у нас два случая в зависимости от того,

или нет.

● Если

, то мы можем просто присвоить

и выйти.

● В противном случае, всё несколько сложнее. Необходимо произвести "клонирование" состояния

: создать

новое состояние

, скопировав в него все данные из вершины

(суффиксную ссылку, переходы), за

исключением значения

: надо присвоить

.

После клонирования мы проводим суффиксную ссылку из

в это состояние

, также

перенаправляем суффиксную ссылку из

в

. Наконец, последнее, что мы должны сделать — это пройтись от состояния

по суффиксным ссылкам, и для

каждого очередного состояния проверять: если имелся переход по букве

в состояние

, то перенаправлять его

в состояние

(а если нет, то останавливаться).

● В любом случае, чем бы ни закончилось выполнение этой процедуры, мы в конце обновляем значение

,

присваивая ему

. Если нам также нужно знать, какие вершины являются терминальными, а какие — нет, то мы можем найти все терминальные вершины после построения суффиксного автомата для всей строки. Для этого рассмотрим состояние, соответствующее всей строке (оно, очевидно, у нас сохранено в переменной

), и будем идти по

его суффиксным ссылкам, пока не дойдём до начального состояния, и помечать каждое пройденное состояние как терминальное. Легко понять, что тем самым мы пометим состояния, соответствующие всем суффиксам строки

,

что нам и требовалось. В следующем разделе мы подробно рассмотрим каждый шаг алгоритма и покажем его корректность. Здесь же лишь отметим, что из алгоритма видно, что добавление одного символа приводит к добавлению одного или двух состояний в автомат. Таким образом, линейность числа состояний очевидна. Линейность числа переходов, да и вообще линейное время работы алгоритма менее понятны, и они будут доказаны ниже, после доказательства корректности алгоритма.

Доказательство корректности алгоритма

● Назовём переход

сплошным, если

. В противном случае, т.е.

когда

, переход будем называть несплошным. Как можно увидеть из описания алгоритма, сплошные и несплошные переходы приводят к разным ветвям алгоритма. Сплошные переходы называются так потому, что, появившись впервые, они больше никогда не будут меняться. В противоположность им, несплошные переходы могут измениться при добавлении новых букв к строке (измениться может конец дуги-перехода).

● Во избежание неоднозначностей, под строкой

мы будем подразумевать строку, для которой был построен

суффиксный автомат до добавления текущего символа

.

● Алгоритм начинается с того, что мы создаём новое состояние

, которому будет соответствовать вся строка

. Понятно, почему мы обязаны создать новое состояние — т.к. вместе с добавлением нового символа возникает новый класс эквивалентности — это класс строк, оканчивающихся на добавляемом символе .

● После создания нового состояния алгоритм проходится по суффиксным ссылкам, начиная с состояния,

соответствующего всей строке

, и пытается добавить переход по символу

в состояние

. Тем самым,

мы приписываем к каждому суффиксу строки

символ

. Но добавлять новые переходы мы можем только в том

случае, если они не будут конфликтовать с уже имеющимися, поэтому, как только мы встретим уже имеющийся переход

по символу

, мы сразу же обязаны остановиться.

● Самый простой случай — если мы так и дошли до фиктивного состояния

, добавив везде по новому переходу

вдоль символа

. Это означает, что символ

в строке

ранее не встречался. Мы успешно добавили все

переходы, осталось только проставить суффиксную ссылку у состояния

— она, очевидно, должна быть равна

, поскольку состоянию

в данном случае соответствуют все суффиксы строки

.

● Второй случай — когда мы наткнулись на уже имеющийся переход

. Это означает, что мы пытались добавить

в автомат строку

(где

— некоторый суффикс строки

, имеющий длину

), а эта строка уже

была ранее добавлена в автомат (т.е. строка

уже входит как подстрока в строку

). Поскольку

мы предполагаем, что автомат для строки

построен корректно, то новых переходов мы больше добавлять не должны. Однако возникает сложность с тем, куда вести суффиксную ссылку из состояния

. Нам требуется

провести суффиксную ссылку в такое состояние, в котором длиннейшей строкой будет являться как раз эта самая , т.е.

для этого состояния должен быть равен

. Однако такого состояния могло и

не существовать: в таком случае нам надо произвести "расщепление" состояния.

● Итак, по одному из возможных сценариев, переход

оказался сплошным, т.е.

. В

этом случае всё просто, никакого расщепления производить не надо, и мы просто проводим суффиксную ссылку

из состояния

в состояние

.

● Другой, более сложный вариант — когда переход несплошной, т.е.

. Это означает,

что состоянию

соответствует не только нужная нам подстрока

длины

, но также и

подстроки большей длины. Нам ничего не остаётся, кроме как произвести "расщепление" состояния : разбить отрезок строк, соответствующих ей, на два подотрезка, так что первый будет заканчиваться как раз

длиной

.

Как производить это расщепление? Мы "клонируем" состояние

, делая его копию

с

параметром

. Мы копируем в

из

все переходы, поскольку мы не хотим

никоим образом менять пути, проходившие через

. Суффиксную ссылку из

мы ведём туда, куда

...