Вы здесьТипичные ошибки распознавания - собираем статистику для скрипта ФБЕ
Опубликовано чт, 06/01/2011 - 11:12 пользователем TaKir
Собираю статистику по наиболее частым типичным ошибкам распознавания для включения их в скрипт ФБЕ: Варианты: Прошу участвовать всех желающих. Дополненный список я хочу включить в недавно обновленный скрипт "Поиск по набору регэкспов", автор Sclex (http://groups.google.com/group/fiction-book-editor/browse_thread/thread/b4700ee54d255384), работающий под ФБЕ. Сейчас данный скрипт у меня ищет: Использование этого скрипта заметно сокращает время работы над книгой в ФБЕ.
|
Вход на сайтПоиск по блогам и форумамUser menuПоследние комментарии
Саша из Киева RE:Подайте бедному копеечку на книжку с литреса... 8 часов
Саша из Киева RE:"Экс" и "нео": разноликие правые 8 часов medved RE:Предупреждение: "зеркала" флибусты 1 неделя Isais RE:Соседи 2 недели babajga RE:Как сова отправилась в отпуск 2 недели Саша из Киева RE:Горящие паруса 3 недели Саша из Киева RE:Подвиг героев - судьба страны. МНР: люди и годы 1 месяц commodore RE:Письма 1 месяц Саша из Киева RE:Три минуты истории 1 месяц nehug@cheaphub.net RE:Как бы с этим побороться и побороть? 1 месяц Саша из Киева RE:Книги на латышском языке 1 месяц stevecepera RE:Список современных французских писателей? 2 месяца etorus2008 RE:Отв: Помогите найти книгу по описанию 2 месяца lemma7 RE:Чёрный нимб и другие истории, исполненные неизъяснимого ужаса 2 месяца Wedmak RE:Помогите найти!.. #2 2 месяца sem14 RE:Координация сканирования и вычитки 2 месяца babajga RE:Кто сможет раздобыть и оцифровать нужные мне книги? 2 месяца Isais RE:Мои открытия 2 месяца Впечатления о книгах
Wild_XC70 про Дроздов: Невеста инопланетянина (Альтернативная история, Космическая фантастика, Самиздат, сетевая литература)
12 07 Дождался проды. Лучше бы её не было. Похоже Дроздов перегорел. Оценка: плохо
mysevra про Каверин: Два капитана [с непрозрачными иллюстрациями] (Советская классическая проза, Приключения: прочее)
12 07 Поймала себя на том, что завидую главному герою. «Если вы думаете, что приключения опасны, попробуйте рутину – это смертельно». Оценка: отлично!
mysevra про Свечин: Выстрел на Большой Морской [litres] (Полицейский детектив, Исторический детектив)
12 07 Автор прекрасно ориентируется в датах, чинах и наградах, перечисляя их в восхитительном упоении. Неожиданно отзывается о правящей на тот момент династии. Да и вообще, как приключенческий роман, книги этой серии просто превосходны. ……… Оценка: хорошо
mysevra про Чекмаев: Анафема (Боевая фантастика)
12 07 Как справочник по работе сект – прекрасно. Как художественный текст – депрессивно-занудственно с претензией. Оценка: неплохо
Саша из Киева про Толочко: Древний Киев (История)
12 07 Спасибо большое! Ещё бы издание этой книги 1976 года. У меня было именно оно.
Олег Макаров. про Оценщик
11 07 Серия "Оценщик" - вот прямо отлично. Всё. И идея, и сюжет, и герои, и стиль... Остаётся только ждать каждой новой "серии" и получать удовольствие
virtcatty про Усманов: Шутки богов. Поспешное решение (Боевая фантастика, Героическая фантастика)
11 07 А это точно Усманов написал? Его любимое "банально" только один раз попалось, примерно на 73% текста, да именно текста, так что без оценки.
Oleg68 про Кобен: Подкрутка [Back Spin ru] (Крутой детектив)
09 07 Как всегда, автор на высоте. Все отлично: сюжет, герои, язык. Оценка: отлично!
Sello про Мережковский: Юлиан Отступник (Историческая проза)
09 07 Какая-то странная смесь излишней напыщенности и академизма в изложении событий. Есть исторические книги, что вызывают у тебя отклик - автору доверяешь, хотя и допускаешь, что он "дорисовывает" события прошлого. Потому что ……… Оценка: неплохо
DMcL про Коллингвуд: Миллионщик (Альтернативная история, Приключения: прочее, Попаданцы, Самиздат, сетевая литература)
09 07 Я извлек из-за пазухи аккуратно свернутые бумаги - проект ходатайства и устав «Сибирского Золота»... Глебов аккуратно закрыл папку с проектом... т.е. папку можно свернуть и положить за пазуху! Слишком много таких ляпов, слишком много
дядя_Андрей про Чёрное озеро
08 07 Ну, что ж, прочитал всю серию. Книги совсем неувлекательные. Всё сводится, в основном, к нытью автора, как его обходили наградами и чинами. А так же, как ему мешали сослуживцы и начальство. Тогда, как он, совершал настоящие ………
Green Bug про Ланцов: Железный лев (Альтернативная история, Социальная фантастика, Попаданцы, Самиздат, сетевая литература)
06 07 Марти Сью пополам с политической пропагандой. Как по мне, не стоит читать даже если за это будут платить. Оценка: плохо |
Комментарии
Отв: Типичные ошибки распознавания - собираем статистику ...
странно.. у меня ОК
УПД: ЕСЛИ У ТЕБЯ ТАМ НЕРАЗРЫВНЫЙ ПРОБЕЛ, то тогда понятно, да
Отв: Типичные ошибки распознавания - собираем статистику ...
У меня вообще находит один раз из трёх "но", которые я поставила в строку. Не понимаю. :((((
Нет, какой же неразрывный, я от руки написала строку.
Ладно, отложим. Не получается. :(((
Доделаю книгу, буду дальше пробовать. Спасибо сирамно. :)
Отв: Типичные ошибки распознавания - собираем статистику ...
Вот такую строчку отлично проверил
Отв: Типичные ошибки распознавания - собираем статистику ...
У меня теперь тоже. Кстати, скрипт Алдио с запятой тоже всё у меня нашёл.
Но "точка, тире, буква" более комплексный. Там можно не только знак препинания менять, но и регистр буквы. И у него обзор лучше.
Скрипт Алдио хорош для второго прогона и, как я уже писала, для нахождения пропущенной точки. Это важно.
Коллеги, я получаю огромное удовольствие от того, как совместными усилиями мы улучшаем качество наших книг. Для меня огромная честь и радость общаться со всеми вами!

Отв: Типичные ошибки распознавания - собираем статистику ...
як, вместо я к
Отв: Типичные ошибки распознавания - собираем статистику ...
А если добавить:
", по" - найдем все не правильно распознанные ", но"...
TaKir Такой вопрос - может имеет смысл перенести "ыи" поиск сочетания только в конце слова?
Отв: Типичные ошибки распознавания - собираем статистику ...
Отв: Типичные ошибки распознавания - собираем статистику ...
Иногда встречается "ыо" вместо "ью".
Отв: Типичные ошибки распознавания - собираем статистику ...
Это, по-моему, есть в первоначальном варианте...
Отв: Типичные ошибки распознавания - собираем статистику ...
Пробовал ставить поиск "фа"->"гра" - хватило меня на 2 минуты - слишком много ошибочных нахождений...
Отв: Типичные ошибки распознавания - собираем статистику ...
Отв: Типичные ошибки распознавания - собираем статистику ...
Подтверждаю. И ещё фуппа - группа и Уильяме - Уильямс.
Отв: Типичные ошибки распознавания - собираем статистику ...
Из этой же серии встретилась фация - грация.
Отв: Типичные ошибки распознавания - собираем статистику ...
если книжка про войнушку, можно прогнать поиском по слову фанат, и посмотреть что найдется... давно так делаю
Отв: Типичные ошибки распознавания - собираем статистику ...
Фраза "open the window" была распознана как "орёл не видел"
Отв: Типичные ошибки распознавания - собираем статистику ...
Лучше было язык распознавания задать английский, тогда не стал бы по-русски распознавать.
FR тем и хорош, что можно любую область распознать отдельно от других и каждой области распознавания задать свой язык - очень помогает при распознавании многоязычных текстов, особенно там, где не только русско-английский, но и другие языки присутствуют.
Отв: Типичные ошибки распознавания - собираем статистику ...
Точка в середине предложения (мусор, неправильная запятая).
Отв: Типичные ошибки распознавания - собираем статистику ...
... ловится скриптом "Слипшиеся слова".
Отв: Типичные ошибки распознавания - собираем статистику ...
Попробовал. Чевой-то неудобным он мне показался. Два слова только показывает, надо все равно по тексту проверять, вариант замены вручную править. Запихнуть бы это дело в Единый Великий Скрипт :))
Отв: Типичные ошибки распознавания - собираем статистику ...
Насколько я понимаю, не все знают КАК добавить в Единый скрипт тот или иной регесп.
Попробую описать максимально просто:
1. Скачиваем или открываем скрипт.Я поместил его в папку чистка: FictionBook Editor - Scripts - 06_Чистка
2. Открываем его при помощи блокнота: Рекомендую Notepad++. В нём нерабочие строки будут выделяться зелёным цветом:
3. Читаем комментарий. (комментарий кончается словами : -------------начало блока TaKir - регэкспы:--------------- )

Если категорически непонятно - пропускаем.:
4. Вставляем нужный или скопированный регесп из этой темы. Для удобства выделите его пустыми строками ( они в данном случае никакой роли не играют):

5. Жмём на "Сохранить"
6. Пробуем
Ещё немного:

Для удобства можно вывести ярлык этого скрипты на рабочий стол и редактировать его по мере необходимости. Скрипт начинает работать сразу по сохранению. Перезапускать FBE не требуется
Ненужный регэсп можно отключить, поставив в начале строки два слеша (//). В Notepad++ эта строчка изменит цвет на зелёный. Сохраняем.
Отв: Типичные ошибки распознавания - собираем статистику ...
Дело в том, что этот скрипт ловит намного больше, чем точку в середине предложения. У меня он - в списке обязательных скриптов. Ну и заодно и точку ловит. ;)
Отв: Типичные ошибки распознавания - собираем статистику ...
Ага. У меня просто скан попался такой, вот этих самых точек много. Показалось проще вылавливать поиском [а-я][.] [а-я], учит. регистр, рег. выражения. А так многие скрипты пользую.
Да, и wotti спасибо за это:
Не знал.
А, еще вспомнил по случаю - вот этого скриптика у Вас не завалялось случаем? А то потерялся у меня, теперь вспоминаю с тоской:))
Отв: Типичные ошибки распознавания - собираем статистику ...
http://www.multiupload.com/RWM7NPFQ5R
Отв: Типичные ошибки распознавания - собираем статистику ...
Благодарствую:))
Отв: Типичные ошибки распознавания - собираем статистику ...
Туда же можно засунуть конструкцию "[а-я] — [А-Я]" с учётом регистра (т.е. "i" убрать). Отлавливает места, где в диалогах пропала точка.
Отв: Типичные ошибки распознавания - собираем статистику ...
Ну и до кучи ", — [А-Я]" с учётом регистра (т.е. "i" убрать). Отлавливает места, где в диалогах запятая вместо точки.
Отв: Типичные ошибки распознавания - собираем статистику ...
addRegExp("[а-я] — [А-Я]","","Найдено: возможно, пропущена точка в диалоге");
addRegExp(", — [А-Я]","","Найдено: возможно, запятая вместо точки в диалоге");
addRegExp("[а-я] но ","i","Найдено: -но- после слова и в обрамлении пробелов, скорее всего нужно -по-");
Отв: Типичные ошибки распознавания - собираем статистику ...
Yeeeeessss!

Спасибо, Алдио!
Wotti, и тебе.
Отв: Типичные ошибки распознавания - собираем статистику ...
с запятой почему-то не работает. Завтра посмотрю :-)
Отв: Типичные ошибки распознавания - собираем статистику ...
Запятую отлично ищет тот скрипт, о котором я писала - "точка тире буква", а вот пропущенную точку только что нашла с твоим скриптом. Кла-а-а-а-ассс!!!
Отв: Типичные ошибки распознавания - собираем статистику ...
addRegExp("[,] [—] [А-ЯЁ]","","Проверка знака припинания");
Отв: Типичные ошибки распознавания - собираем статистику ...
Странно... не работает с запятой. Чудеса. Ладно, утро вечера мудренее :-)
А, не. Понял.
После "Генеральной уборки" пробел после запятой и перед тире похоже превращается в неразрывный. И соответственно более не находится. Как в скрипте указать неразрывный пробел?
Про точка-три-буква понял,. Раньше не пользовался. Буду :-)
Отв: Типичные ошибки распознавания - собираем статистику ...
Включи режим отображения неразрывных пробелов в настройках
Скопируй в сорцах неразрывный пробел
Вставь в скрипт
У меня так:
addRegExp(",□— [А-Я]","","Найдено: возможно, запятая вместо точки в диалоге");
УПД.
Некоторые регэспы лучше делать в 2-х видах: с простым и с неразрывными пробелами, чтобы ловил оба варианта
Отв: Типичные ошибки распознавания - собираем статистику ...
Co-o-o-o-ol! Тоже работает.
Вот переделаю все-все-все книги и засяду тренироваться писать регэкспы. Да.
Отв: Типичные ошибки распознавания - собираем статистику ...
Если у вас последняя версия скрипта, то неразрывный пробел в регэкспе можно записать так: \xA0 , тогда он будет корректно искаться независимо от того, какое его отображение выбрано в настройках.
Отв: Типичные ошибки распознавания - собираем статистику ...
О, спасибо! Теперь и после "Ген. уборки" работает. :)
Отв: Типичные ошибки распознавания - собираем статистику ...
Тоскливо перечитал фразу и подумал, сколько ещё можно умного узнать, если бы.. но... Ну и фигсним )))
Отв: Типичные ошибки распознавания - собираем статистику ...
wotti Спасибо! :-)
Отв: Типичные ошибки распознавания - собираем статистику ...
Тема открыта уже полгода...
Сам пользуюсь двумя - "Поиск по набору регэкспов TaKir 24_01_2011" и "своим", подсмотренным здесь:
[collapsed title=открыть]addRegExp("[а-яё][А-ЯЁ]","","Найдено: смесь регистров");
addRegExp("[А-ЯЁ][А-ЯЁ][а-яё]","","Найдено: смесь регистров");
tagRegExp("(?<![а-яё])ои(?![а-яё])","i","Найдено: слово "ои" ("он" с опечаткой).","",1);
tagRegExp("(?<![а-яё])го(?![а-яё])","i","Найдено: слово "го" ("по или то" с опечаткой).","",1);
tagRegExp("(?<![а-яё])нот(?![а-яё])","i","Найдено: слово "нот" ("пот" с опечаткой).","",1);
tagRegExp("(?<![а-яё])газ(?![а-яё])","i","Найдено: слово "газ" ("гав или таз" с опечаткой).","",1);
tagRegExp("(?<![а-яё])гав(?![а-яё])","i","Найдено: слово "гав" ("газ или таз" с опечаткой).","",1);
tagRegExp("(?<![а-яё])щей(?![а-яё])","i","Найдено: слово "щей" ("шеи" с опечаткой).","",1);
tagRegExp("(?<![а-яё])ато(?![а-яё])","i","Найдено: слово "ато" ("а то" с опечаткой).","",1);
tagRegExp("(?<![а-яё])ито(?![а-яё])","i","Найдено: слово "ито" ("и то" с опечаткой).","",1);
tagRegExp("(?<![а-яё])тою(?![а-яё])","i","Найдено: слово "тою" ("того" с опечаткой).","",1);
tagRegExp("(?<![а-яё])вамп(?![а-яё])","i","Найдено: слово "вамп" ("вами" с опечаткой).","",1);
tagRegExp("(?<![а-яё])попятно(?![а-яё])","i","Найдено: слово "попятно" ("понятно" с опечаткой).","",1);
tagRegExp("(?<![а-яё])отда(?![а-яё])","i","Найдено: слово "отда" ("отца" с опечаткой).","",1);
tagRegExp("(?<![а-яё])конда(?![а-яё])","i","Найдено: слово "конда" ("конца" с опечаткой).","",1);
tagRegExp("(?<![а-яё])лидами(?![а-яё])","i","Найдено: слово "лидами" ("лицами" с опечаткой).","",1);
tagRegExp("(?<![а-яё])аза(?![а-яё])","i","Найдено: слово "аза" ("а за" с опечаткой).","",1);
tagRegExp("(?<![а-яё])пей(?![а-яё])","i","Найдено: слово "пей" ("ней" с опечаткой).","",1);
tagRegExp("(фан)","i","Найдено: часть слова "фан" ("гран" с опечаткой).","",1);
tagRegExp("[а-яёa-z]<strong>[а-яёa-z]+?</strong>|<strong>[а-яёa-z]+?</strong>[а-яёa-z]","i","Найдено: жирность в средней части слова.");
tagRegExp("[а-яё]<strong>[а-яё]+?</strong>|<strong>[а-яё]+?</strong>[а-яё]","i","Найдено: жирность части слова.");
tagRegExp("<strong>[а-яёa-z]+?</strong>[а-яёa-z]|[а-яёa-z]<strong>[а-яёa-z]+?</strong>","","Найдено: жирность в начале или конце слова.");
tagRegExp("[а-яёa-z]<sup>[а-яёa-z]+?</sup>|<sup>[а-яёa-z]+?</sup>[а-яёa-z]","i","Найдено: Найдено: верхний индекс в средней части слова.");
tagRegExp("[а-яё]<sup>[а-яё]+?</sup>|<sup>[а-яё]+?</sup>[а-яё]","i","Найдено: Найдено: верхний индекс.");
tagRegExp("<sup>[а-яёa-z]+?</sup>[а-яёa-z]|[а-яёa-z]<sup>[а-яёa-z]+?</sup>","","Найдено: верхний индекс в начале или конце слова.");
tagRegExp("[а-яёa-z]<sub>[а-яёa-z]+?</sub>|<sub>[а-яёa-z]+?</sub>[а-яёa-z]","i","Найдено: нижний индекс в средней части слова.");
tagRegExp("[а-яё]<sub>[а-яё]+?</sub>|<sub>[а-яё]+?</sub>[а-яё]","i","Найдено: нижний индекс части слова.");
tagRegExp("<sub>[а-яёa-z]+?</sub>[а-яёa-z]|[а-яёa-z]<sub>[а-яёa-z]+?</sub>","","Найдено: нижний индекс в начале или конце слова.");
[/collapsed]Так вот... - есть у кого готовые и работающие наработки?
А так же, желание поделиться? :)
Отв: Типичные ошибки распознавания - собираем статистику ...
Выложите кто-нибудь готовый скрипт со всеми наработками, please.
Отв: Типичные ошибки распознавания - собираем статистику ...
Мой http://ifolder.ru/24492734
Отв: Типичные ошибки распознавания - собираем статистику ...
Спасибо!
Отв: Типичные ошибки распознавания - собираем статистику ...
И от меня спасибо.
Wotti тоже собирался делать, хотела как раз его просить включить ещё два "моих" слова ко всем уже перенятым:
"Уильяме" вместо "Уильямс"
и
"поддерев" вместо "под дерев" (склеиваются почему-то только "под деревом" или "под деревьями"; причём "поддеревом" даже не распознаётся как орфографическая ошибка - ни в ФР, ни в ФБЕ).
Может, кому-нибудь тоже пригодится.
Отв: Типичные ошибки распознавания - собираем статистику ...
Сейчас делаю книжку и постоянно натыкаюсь: "Ухты" вместо "Ух ты", "Ивам" вместо "И вам", "1" в конце предложения вместо "!"
Отв: Типичные ошибки распознавания - собираем статистику ...
Ну, "1" выловит как "смесь букв и цифр", а остальные, если регулярно встречаются, можно добавить (по аналогии с уже существующими), а потом отключить. Я часто так делаю для конкретной книги.
Отв: Типичные ошибки распознавания - собираем статистику ...
Типичные ошибки для данной книги можно найти и обычным поиском. Но сочетания "И вам" и "Ух ты" не так часты и в любой другой книги могут оказаться незамеченными.
Отв: Типичные ошибки распознавания - собираем статистику ...
Ну так включите эти случаи в свой вариант скрипта. ;)
tagRegExp("(?<![а-яё])ивам(?![а-яё])","i","Найдено: слово "ивам" ("и вам" с опечаткой).","",1);
tagRegExp("(?<![а-яё])ухты(?![а-яё])","i","Найдено: слово "ухты" ("ух ты" с опечаткой).","",1);
Отв: Типичные ошибки распознавания - собираем статистику ...
Коллеги!
Этот скрипт - огромная помощь для верстальщиков. Трудно переоценить его необходимость. Но он не заменяет все остальные скрипты.
Не ограничивайтесь только им, какое бы количество регэкспов мы туда ни запихнули.
Более того, если вы использовали другие скрипты до запуска этого, то они уже нашли множество ошибок, а значит скрипт по регэкспам будет работать намного быстрее.
Отв: Типичные ошибки распознавания - собираем статистику ...
Ещё (может кто не знает)
Чтобы присвоить скрипту (любому) горячую клавишу нужно:
1. Заходим в меню Сервис-Настройки
2. в появившемся окне выбираем вкладку "Клавиши". В левом окошке выбираем "Скрипты". В правом ищем скрипт "Поиск по набору регеспов" . В чекбоксе "Клавиши" выбираем ту, что больше нравится. (В моём случае это F4) Жмём "Присвоить"
ВСЁ
Можно вывести иконку на панель скриптов. Для этого:

1. Клик на панели скриптов. Появится окошко "Настроить"
2. В появившемся окошке настройки, выбираем нужную иконку и переносим её в правую часть, нажав кнопку "Добавить"

Отв: Типичные ошибки распознавания - собираем статистику ...
Голма совершенно права. Я тоже сначала прохожу скриптами, которые заточены под определённые операции и только потом прохожу Единым скриптом и Спеллчеком.
Страницы