Sunday, November 16, 2008

Новая фишка в продажах?


Что-то участились такие случаи, о которых я сейчас попытаюсь рассказать.


Первый случай:


Готовилась вечеринка и каждый должен был что-то принести с собой. Я направился в местный торговый центр. Ходя по ТЦ увидел красную икру на разновес. Взял, если мне не изменяет память - 50 или 100 грамм. На ценнике первая цифра была плохо напечатана и было не понятно, единица там или семерка. Икру мне сразу не дали в руки, мотивируя это тем, что товар вроде как дорогой. Когда я уже стоял на кассе, баночку с икрой наконец то принесли и ее цена оказалась где-то на 150 рублей больше той, что планировалось. Вот тут и начинается самое интересное с психологией. Сзади меня стояла большая очередь, в том числе и из симпатичных девушек. Кассир спросил: Будете брать икру? Хоть она и оказалась на 150 рублей дороже, чем я рассчитывал - я ее купил. Почему? Думаю тут свое дело сделала моя психология. Я не хотел казаться каким то нищим, который не может себе позволить купить икру. На этом можно играть, и на этом играют: Создается какой то дорогой товар, чтобы у людей было желание его купить, тем самым доказывая самому себе и окружающим "какой ты крутой".


Второй случай:


Второй случай со мной произошёл в аптеке, в которую я пошел за таблетками от курения. Пришел. Спросил, сколько стоят такие таблетки. Продавец сначала сказал, что 150 рублей, после того как я согласился на данную сумму, она сделала грустное лицо и заявила, что ошиблась и таблетки стоят, не 150 рублей, а 250 руб. И я все равно купил эти таблетки.


Размышление:


Потом я начал анализировать свое поведение, и думать почему же я в этих 2-х случаях не отказался от покупки. Ответ нашелся только один: когда тебе в начале говорят, что некая вещь стоит 150 рублей, то ты на подсознательном уровне уже соглашаешься ее купить и можно сказать, считаешь, что эта вещь уже твоя. И после того как тебе называют более высокую цену, ты все равно хочешь ее купить. Тебе кажется, что вот-вот эта вещь окажется в твоих руках, да и не охота выглядеть бедным студентом, у которого нет 250 рублей и произносить фразу "Ой, извините, но у меня с собой только 150 рублей".


Эта фишка с постепенным повышением цены работает и на различных аукционах. Думаю вы неоднократно слышали истории о том, что стартовая цена некого лота была скажем в $10 а затем выросла до $100,000. Все дело опять в чувстве собственности. Вроде вещь тебе это уже не нужна и безделушка вовсе, но так охота выиграть этого толстого негодяя который сидит впереди тебя.


Думаю, эту "фишку" можно использовать не только в супермаркетах и аптеках. Конечно же нет! Сначала дай надежду, а потом жестко обломай. Инвесторам наоборот можно предлагать в начале большую сумму, а потом через несколько дней, когда стартапщики уже потирают ручки, сказать что-то вроде "Извините, мы передумали. Мы можем вложить только 100,000$". Возможно это или нет - не знаю. Надо у Макса Крайнова спросить, знает ли он такие случаи и как реагировали стартапщики.


Хотите хороший пример, что эта "фишка" работает и ее уже используют? Кто? Застройщики квартир. Сначала просят вложить 200,000 руб. Как только ты вложил свои кровные денюжки, они заявляют тебе, что цена на стройматериалы повысилась и нужно доплатить еще 200,000 руб. А за это время, ты уже привык к той мысли, что у тебя уже есть квартира, как ты ее обустроишь, где у тебя будет стоять компьютер и диван. А сейчас эти сволочи требуют с тебя еще деньги, разрушая всю твою мечту… Казалось "вот-вот и квартира моя", а тут такой подвох и отказываться от своей мечты, ох как не хочется. Поэтому и делаешь еще дополнительные вложения, о которых не договаривались.


Что это? Хитрость продавцов или обычное совпадение - я не знаю. Может вы мне поможете разобраться или вы сами попадали в такие ситуации?


Парочка примеров:



Первый лот был продан за 1 млн. руб. вместо заявленных 271 тыс. руб. – комната на 4-ом этаже под офис по пр. Победителей (Машерова), 5 общей площадью 20,34 кв. метра, а второй - за 12 млн. руб. в отличие от начальной цены 3 млн. 120 тыс. руб. – 2 комнаты под бытовые услуги по ул. Московской, 20 площадью 78,10 кв. метра. (С) Квартирант.by


Проданная квартира общей площадью 58 кв. м находится на Политехнической ул., д. 17, корп. 3. В торгах приняли участие девять претендентов. Начальная стоимость лота была установлена судебным приставом и составила 3,55 млн руб. В ходе аукциона она поднялась до 5,35 млн – именно эту цену предложил победитель. (С) BN.ru




В ходе аукциона стоимость лота поднялась с 9 млн до 403 млн рублей. (С) emls.ru



Артем Тагиров рассуждает по поводу этичности в SEO. Хорошее рассуждение. Если получится напишу пост или сделаю подкаст на эту тему.


Всего вам хорошего… и не болейте!


Куда лить трафик? Фарма-трафик льем сюда. GlavMed.com





Saturday, November 15, 2008

Веб-страница как экономическая единица сетевой информации


Единицей сетевой информации является веб-страница. В любой момент времени пользователь просматривает в браузере какую-то одну страницу и, переходя от одной страницы к другой, получает очередную «порцию» информации.

Не бывает «ничейных» или «беспризорных» страниц, каждая страница в Сети кому-то принадлежит, у каждой есть владелец. Страницы корпоративных сайтов, как правило, принадлежат компаниям. Большое количество страниц принадлежит частным лицам.

Представление о веб-странице как о единице сетевой информации не совсем триви¬ально. Люди привыкли представлять информацию либо в математических (биты и байты), либо в каких-то «смысловых» единицах. Но, попытавшись оценить ин¬формацию в Сети на основании традиционных представлений, вы столкнетесь с серьезными проблемами.

Информацию невозможно оценивать по весу, в байтах. В зависимости от оформ¬ления две страницы с одинаковыми текстами и рисунками могут отличаться друг от друга по весу в несколько раз.

Информацию невозможно оценивать по смыслу. Один и тот же текст, например «Я помню чудное мгновенье...» А. С. Пушкина, размещенный на двух страницах, имеет один и тот же смысл. Но ценность этих двух страниц может отличаться на порядки в зависимости от того, насколько часто посетители заходят на каж¬дую из них.

Информацию очень трудно оценивать по праву собственности. В Сети очень мно¬го «бесхозных» данных и данных, права на которые оспариваются. Много полных и неполных дубликатов текстов и изображений. Широко распространено «заим¬ствование», а то и откровенное воровство интересных статей, изображений, таб¬лиц, аудио- и видеофайлов, идей.

Ценность информации как данных определить практически невозможно. Зато до¬вольно несложно определить экономическую ценность любой веб-страницы. Про¬ще говоря, ее стоимость. Каждую страницу можно оценить по привычной для биз¬неса шкале измерений — в деньгах.

Стоимость веб-страницы напрямую зависит от двух показателей — посещаемости и характеристики аудитории. Посещаемость — это оценка того, сколько человек просмотрели страницу за день, за неделю, за месяц. А вот что такое «характерис¬тика аудитории», лучше рассмотреть на примере.

Допустим, у вас есть страница, на которую ежедневно заходят сто человек. Все они набрали в поисковых системах запрос «бесплатные рефераты», нашли ссылку на вашу страницу и перешли по ней. А у вашего знакомого есть страница, на которую аналогичным образом заходят всего сто человек в месяц, но приходят они по за¬просу «автомобили в кредит в Москве». Посещаемость у вашего знакомого в трид¬цать раз ниже, но вы видите, в чем разница между аудиториями.

В первом случае люди четко выразили свое нежелание платить за требуемую ин¬формацию. Во втором они ищут продавца автомобиля, которому собираются пла¬тить деньги. Они ищут банк, который предложит более выгодные условия креди¬тования, и ему они тоже будут платить проценты. Они ищут страховую компанию, которая предложит лучшие варианты страховки купленного в кредит автомобиля, и ей они тоже будут платить страховые взносы.

Любой автодилер, банк, страховая компания готовы платить владельцу страницы, у которой такая аудитория. Они заинтересованы в том, чтобы люди с описанной проблемой обращались именно к ним и становились клиентами и покупателями. А вот желающих заплатить за «бесплатные рефераты» найти трудно.

Таким образом, стоимость любой веб-страницы определяется возможностью по¬лучать доход от демонстрации ее содержимого интернет-пользователям. Способов получения дохода — множество.

Подведем итоги.

□ Интернет становится главным источником информации для миллионов людей.

□ Информация в Сети представлена на веб-страницах.

□ Каждая веб-страница имеет владельца.

□ Каждый владелец стремится получать доход от демонстрации содержимого своих веб-страниц пользователям.

Каким же образом владелец может добиться, чтобы пользователи просматривали именно его веб-страницы? Существуют два способа:

□ пользователи должны знать адрес страницы, когда им понадобятся предлагае¬мые на ней данные;

□ пользователи должны иметь возможность найти страницу, когда им понадобятся предлагаемые на ней данные.

Прежде чем перейти к рассмотрению вопроса, как в Интернете можно искать нуж¬ные страницы, внесем ясность в терминологию. Единицей сетевой информации является веб-страница. Но структурной единицей Интернета является не одна страница, а множество страниц, объединенных в сайт.

Согласно определению «Яндекса», «сайт — это место в Интернете, кото¬рое определяется своим адресом... имеет своего владельца и состоит из веб-страниц, которые воспринимаются как единое целое. Строгого опре¬деления сайта не существует — например, некоторые разделы больших сайтов вполне могут восприниматься и даже определяться их владельца¬ми как отдельные сайты...».

Права владения распространяются на сайты, и именно для сайтов рассчитыва¬ются посещаемость, характеристики аудитории и стоимость. Продаются и покупаются сайты, а не отдельные страницы. Поэтому в дальнейшем мы чаще будем употреблять более привычный термин «сайт», имея в виду, что сайт — это совокупность веб-страниц, которые содержат предлагаемую пользователям информацию.


Количество сайтов, проиндексированных «Яндексом», — почти пять с половиной миллионов, на этих сайтах «Яндекс» проиндексировал более двух с половиной миллиардов документов (в июле 2007 года)


Реклама:

аудит сайта

Авто-мото спорт


























Google Chrome: горячие клавиши (Shortcuts)


Copyright © 2008 Poiskovyi_robot. Оригинал статьи: http://search-bot.net/google-chrome-goryachie-klavishi-shortcuts/.

О Google Chrome мы уже писали: (обзор и тест Google Chrome)



<a href=Горячие клавиши Google Chrome" title="Горячие клавиши Google Chrome">


Сразу скажу: при первом знакомстве с Google Chrome мне показалось, что его супер минималистичный интерфейс для удобства управления нуждается в горячих клавишах, или Shortcuts.


8 сентября Lifehacker опубликовал продвинутое руководство по горячим клавишам для Google Chrome.


Привожу здесь перевод.


Управление мышью в Google Chrome

История переходов по клавишам "Вперёд-Назад". Тут даже не надо никакого руководства. Поднеся курсор к кнопкам, вы увидите всплывающую подсказку "Нажмите, чтобы вернуться. Удерживайте, чтобы просмотреть историю." Надо только добавить, что быстрее это сделать правой кнопкой мыши.
Скопировав (Ctrl+C) адрес ссылки в буфер и щёлкнув на адресной строке брацзера, можно выбрать "вставть из буфера и перейти". Это действие экономит один клик :)
Наверное, многие заметили, что в любой форме для вставки текста правый нижний угол можно взять и перетащить, изменив размер формы. Удобно, если не виден полностью текст в форме.
Для изменения размера шрифта: Ctrl+колесо мыши

Горячие клавиши (Keyboard Shortcuts) в Google Chrome

(Chrome only) Ctrl+B убирает панель заладок.
(Chrome only) Shift+Escape открывает Диспетчер задач Google Chrome (Task Manager).
Ctrl+L помещает курсор в адресную строку, полностью выделяя адрес.
Ctrl+K помещает курсор в адресную строку для ввода поиска по умолчанию (в качестве поиска по умолчанию при установке выбирается Яндекс или Google).
Ctrl+T открывает новую вкладку (таб).
Ctrl+N откывает новое окно.
Ctrl+Shift+T открывает последнюю закрытую вкладку. Очень полезный шорткат.
(Chrome only) Ctrl+Shift+N открывает новое окно в режиме "Incognito Mode."
Ctrl+Tab перелистывает вкладки слева направо; Ctrl+Shift+Tab перелистывет вкладки в обратную сторону.
Ctrl+1 - 9 переключает вкладки по номерам.
Ctrl+J открывает вкладку загрузок (Downloads tab).
Ctrl+W закрывает активную вкладку.
Ctrl+R обновляет открытую вкладку. Мне удобнее по старинке использовать F5.
Ctrl+H открывает вкладку Истории (History tab). Кстати, история в этом браузере заставляет в себя влюбиться. Так удобно ещё нигде не было.
Alt+Home открывает домашнюю страницу.
Ctrl++, Ctrl+-, Ctrl+0 увеличивает, уменьшает и устанавливает в дефолтное значение размер шрифта.

Статья на английском



Метки записи:Google chrome, shortcuts, браузер, горячие клавиши


Похожие записи

Google chrome (3)
Тема для WordPress в стиле Google Chrome (5)
Самый быстрый браузер: Google chrome? (9)








Сапе: Убить резидента?


Copyright © 2008 Poiskovyi_robot. Оригинал статьи: http://search-bot.net/sape-ubit-rezidenta/.

В продолжение прошлой статьи о новых условиях работы в Сапе. Как известно, резиденты - физ.лица теперь платят не 10%, а все 47%. Что делать?


Цитата с обсуждения на SE Александра Сафонова (saidnavy):


Хорошо, вот все шумят, а кто реально смотрел. Там не запрашивают документов и так далее. Как будет проверяться действительно ты резидент или нет? Ну возьмут и все будут ставить не резедент и что тогда?


Мне почему-то кажется, что всё так вот именно и будет.


Кстати, блог о контекстной рекламе Александра, открывшийся в мае этого года и за всё время существования имеющий всего лишь 8 постов, получил PR5. Что, на мой взгляд, говорит прежде всего о SEO-профессионализме владельца.


Постовой:



Сервис, позволяющий не только скачать фильмы, игры и софт. Сайт предлагает размещать ссылки на свои файлы, хранящиеся на letitbit и vip-file. При имеющейся приличной посещаемости сайта это должно быть довольно интересно.
Новый участник акции "Два в одном": LexIncorpia - энциклопедия земной красоты (c)
Конкурс от Стального бомжа "Получи 20 ссылок за одну". В 10 раз больше, чем в моей акции. Респект!


Метки записи:Google PR, Sape


Похожие записи

Sape: снова здорово (1)








Friday, November 14, 2008

Генератор xml проектов для хрумера


Поделился http://senglab.info/blog/

После того как вручную составил несколько проектов для хрумера, начал задумываться о возможности упрощения данной процедуры вплоть до автоматизации. Приглядевшись к структуре xml проекта, понял что это мне по силам, написал скрипт и встроил в свой дорген.

Скрипту на вход подаются массивы ссылок с ключевиками в формате url||key, а на выходе получаем содержимое файла xml — проекта. Структура xml-файла задается шаблоном xrumer.tpl, который может быть откорректирован по необходимости.

Пример файла шаблона 334


Алгоритм генерации следующий:
Считывается шаблон проекта.
Вычисляются значения макросов для вставки в нужные места проекта.
Делается замена макросов их значениями.
Почти готовый проект выводится на форму или в файл.
Проект открывается хрумером, нажимается кнопка «автозаполнение полей» , «синонимизировать» (по желанию) и сохраняется.
Значения полей (макросов) генерируются следующим образом:Тема проекта ([subject]) формируется в виде вариаций анкоров- ключевиков, учавствующих в проекте.
$subject = get_ankor_var_str($indexs,$limit);
Домашняя страница ([home_page]) - в виде вариаций урлов
$home_page = get_url_var_str($indexs);
Подпись ([signature]) - в виде вариаций урлов с анкорами
$signature = get_url_ankor_vars(array_merge($indexs,$maps));
Объявление ([post_text]) формируется из текста, чередующего со ссылками, текстом является ключевик, т.е.:
key [url=$url]key[/url] key
Для вариации текста сообщения используется встроенный синонимайзер хрумера.

$post_text = get_xrumer_text($post_links,$limit);
Имя проекта ([project_name]) - можно генерить, можно задать вручную. У меня оно генерится в зависимости от типа и числа ссылок, учавствующих в проекте и подается на вход генератору проекта.
Остальные поля либо не заполняются либо заполняются самим хрумером кнопкой автозаполнения.

Исходники генератора 244


Скрипт в действии 475


Видео ролик 222, демонстрирующий интеграцию скрипта с доргеном.


Видео ролик 177, демонстрирующий работу отдельного скрипта.


























Список обязательных плагинов для вордпресса


1. All in One SEO Pack - плагин облегчающий оптимизацию страниц блога, дает возможность прописать такие теги как, TITLE, Desciption, Keywords и т.д.

2. Simple tags – плагин для удобной работы с тегами.

3. Google XML Sitemaps Generator – создание карты сайта, для добавление в гугль и яндекс.

4. WP-PageNavi - кроме улучшения юзабилити блога путем упрощения перемещения по страницам для юзеров, создает дополнительные ссылки на страницы блога для удобства перемещения по ним поисковых роботов.

5. Search keywords - добавляет в конец поста список ссылок на другие страницы блога, используя в качестве анкоров ключевые слова. Делает это на основе анализа запросов в поисковые системы, по которым посетитель попал на ваш блог.

6. Croncrossposter - Отправляет записи из блога на другие блоговые платформы, но не сразу, а спустя неделю, тем самым не мешая индексации блога —носителя инфы, а в последствии создает ссылки на него.

7. Paging plugin - Плагин атоматически разбивает длинные посты на страницы по границе абзаца. Если документ вручную разбит на страницы при помощи тега < !–nextpage– >, то плагин не должен ничего делать. Эта особенность может быть полезна, если пост содержит таблицы или какое-то другое хиторе форматирование. Длина страницы задана непосредственно в коде плагина и составляет 10К.


FAQ по рамблеру


Регистрация в поисковой системе
http://www.rambler.ru/doc/add_site.shtml

Определение позиции сайта в результатах поиска по заданному запросу в Rambler
В ходе проверки Рамблер просматривает примерно 650 первых результатов поиска по заданному запросу и ищет в них интересующий пользователя сайт.
http://www.rambler.ru/doc/position.shtml

Rambler — статистика поисковых запросов
Данный вид статистики предназначен для оценки количества поисковых запросов, содержащих или не содержащих те или иные слова.
http://adstat.rambler.ru/wrds/

Rambler Top100 регистрация
Если вы хотите, что бы Ваш сайт 100% находился поисковой машиной Rambler — обязательно зарегистрируйтесь в Rambler Top100 и установите счетчик Rambler Top100 на каждую страницу!
http://top100.rambler.ru/top100/top_add.shtml.ru

Служба поддержки рамблера
Туда можно пожаловаться, попросить хелпа и тэдэ
http://www.rambler.ru/doc/feedback.shtml

----------------------------------------

Поисковые системы. Апорт (Golden Telecom), MSN (Microsoft), Yahoo, Mail.ru и др.
----------------------------------------

Добавить свой сайт в Поисковый сервер Апорт и регистрация в Каталоге Апорт
http://catalog.aport.ru/rus/add/AddUrl.aspx

Добавить свой сайт в Yahoo. Вообще, это излишне, так как используется база Google. Вроде как.. Лично не проверял, если не так поправьте smile.gif Хотя выдача разная. короче добавляйтесь, хуже не будет.
http://search.yahoo.com/info/submit.html

Добавить свой сайт в поиск Mail.ru
Не нужно, так как с конца 2005 используется база Яндекса.

Добавить свой сайт в рейтинг mail.ru
Не надо путать рейтинг и каталог mail.ru. В рейтинг mail.ru добавляют почти всех, в каталог — далеко не каждого. Переходов с рейтинга не шибко много, но иногда есть смысл добавиться, если ваш сайт будет на 1 странице — если не будет — не добавляйтесь.
http://top.mail.ru/add

Добавить свой сайт в каталог List.mail.ru
http://list.mail.ru
Нужно перейти в нужную рубрику и добавить свой сайт

как добавлять свой сайт в MSN http://search.msn.com/docs/submit.aspx?FORM=WSDD2
важность расширенного поиска Рамблера для SEO — http://www.rambler.ru/cgi-bin/advanced.cgi?set=www



Принципы работы поисковой машины Рамблер,или как выжить в условиях постоянно растущего Интернета

Интернет постоянно растет, так же как растет и число пользователей, которые обращаются с запросами к поисковым системам. Увеличение объема информации и количества запросов, в свою очередь, приводит к повышению требований к скорости работы поисковых машин, качеству поиска и наглядности представления результатов. Так, для того чтобы пользователь остался доволен результатом, на сегодняшний день поисковой системе нужно собрать, обработать, обновить, найти и отсортировать в два раза больше документов, чем год назад. А основная задача поиска как раз и состоит в том, чтобы пользователь был доволен его результатами.

Когда пользователь обращается с запросом к поисковой машине, он хочет найти то, что ему нужно, максимально быстро и просто. Получая результат, он оценивает работу системы, руководствуясь несколькими основными параметрами. Нашел ли он то, что искал? Если не нашел, то сколько раз ему пришлось переформулировать запрос, чтобы найти искомое? Насколько актуальную информацию он смог найти? Насколько быстро обрабатывала запрос поисковая машина? Насколько удобно были представлены результаты поиска? Был ли искомый результат первым или сотым? Как много ненужного мусора было найдено наравне с полезной информацией? Сможет ли он, вернувшись завтра и дав тот же запрос, получить те же результаты?

Для того, чтобы ответы на эти вопросы оставались удовлетворительными, разработчики поисковых машин постоянно совершенствуют алгоритмы и принципы поиска, добавляют новые функции, ускоряют работу системы. В этой статье мы обратимся к механизму работы поисковой машины Рамблер, и на примере ее устройства продемонстрируем, как достигается повышение качества и скорости поиска в условиях постоянного роста объема информации в сети Интернет.

Полнота

Полнота — это одна из основных характеристик поисковой системы, которая представляет собой отношение количества найденных по запросу документов к общему числу документов в Интрнете, удовлетворяющих данному запросу. Например, если в сети Интернет имеется 100 страниц, содержащих словосочетание «Красная площадь», а по соответствующему запросу было найдено всего 70 из них, то полнота поиска будет 0,7. Чем полнее поиск, тем меньше вероятность, что пользователь не сможет найти нужный ему документ, при условии, что он вообще существует в Интернете.

Полнота поиска в большой мере зависит от работы системы сбора и обработки информации. В связи с постоянным ростом количества документов в сети, эта система в первую очередь должна быть масштабируемой. В Рамблере масштабируемость достигается за счет параллельного исполнения задачи произвольным количеством машин.

Сбором информации занимается робот-паук, который обходит страницы с заданными URL и скачивает их в базу данных, а затем архивирует и перекладывает в хранилище суточными порциями. Робот размещается на нескольких машинах, и каждая из них выполняет свое задание. Так, робот на одной машине может качать новые страницы, которые еще не были известны поисковой системе, а на другой — страницы, которые ранее уже были скачаны не менее месяца, но и не более года назад. Хранилище у всех машин едино. При необходимости работу можно распределить другим способом, например, разбив список URL на 10 частей и раздав их 10 машинам. Параллельная работа программы позволяет легко выдерживать дополнительную нагрузку: при увеличении количества страниц, которые нужно обойти роботу, достаточно просто распределить задачу на большее число машин.

В хранилище информация в сжатом виде собирается и разбивается на куски по 50 Мб. Эти части постепенно распределяются между 70 машинами, на которых запущена программа-индексатор. Как только индексатор на одной из машин заканчивает обработку очередной части страниц, он обращается за следующей порцией. В результате на первом этапе формируется много маленьких индексных баз, каждая из которых содержит информацию о некоторой части Интернета. Таким образом, вся интеллектуальная обработка данных осуществляется параллельно, поэтому ускорение процесса индексации достигается простым добавлением машин в систему.

После того, как все части информации обработаны, начинается объединение (слияние) результатов. Благодаря тому, что частичные индексные базы и основная база, к которой обращается поисковая машина, имеют одинаковый формат, процедура слияния является простой и быстрой операцией, не требующей никаких дополнительных модификаций частичных индексов. Основная база участвует в анализе как одна из частей нового индекса. Так, если объединяются 70 новых частей, то в анализе участвует 71 фрагмент (70 новых + основная база предыдущей редакции). Кроме того, единый формат позволяет проводить тестирование частичных баз еще до объединения их с основной, и обнаруживать ошибки на более раннем этапе.

Специальная программа («сливатор») составляет таблицы перенумерации документов базы. Содержимое всех частей объединяется. Среди страниц с одинаковыми адресами выбирается наиболее свежая версия; если при скачивании URL последней информацией была ошибка 404 (запрашиваемая страница не существует), она временно удаляется из индексной базы. Параллельно осуществляется склейка дублей: страницы, которые имеют одинаковое содержимое, но различные URL, объединяются в один документ.

Сборка единой базы из частичных индексных баз представляет собой простой и быстрый процесс. Сопоставление страниц не требует никакой интеллектуальной обработки и происходит со скоростью чтения данных с диска. Если информации, которая генерируется на машинах-индексаторах, получается слишком много, то процедура «сливания» частей проходит в несколько этапов. В начале частичные индексы объединяются в несколько промежуточных баз, а затем промежуточные базы и основная база предыдущей редакции пересекаются. Таких этапов может быть сколько угодно. Промежуточные базы могут сливаться в другие промежуточные базы, а уже потом объединяться окончательно. Поэтапная работа незначительно замедляет формирование единого индекса и не отражается на качестве результатов.

Точность

Точность — еще одна основная характеристика поисковой машины, которая определяется как степень соответствия найденных документов запросу пользователя. Например, если по запросу «Красная площадь» находится 150 документов, в 70 из них содержится словосочетание «Красная площадь», а в остальных просто присутствуют эти слова (»красная баба кричала на всю площадь»), то точность поиска считается равной 70/150 (~0,5). Чем точнее поиск, тем быстрее пользователь находит нужные ему документы, тем меньше «мусора» среди них встречается, тем реже найденные документы не соответствуют запросу.

Повышение точности в поисковой машине Рамблер достигается за счет использования различных технологий на всех этапах обработки и поиска информации. Одним из наиболее интересных процессов является распознавание грамматических омонимов. Омонимы — это слова, которые имеют одинаковое написание, но различный смысл. Различают лексические и грамматические омонимы. Лексические омонимы относятся к одной части речи, как, например, существительное «бор»: хвойный лес, стальное сверло и химический элемент. Грамматические омонимы относятся к разным частям речи, поэтому по написанию у них обычно совпадают только отдельные формы. Примерами грамматических омонимов могут служить слова «печь» - существительное русская «печь» и глагол «печь» пирожки; «рядовой» - прилагательное «рядовой» сотрудник и существительное «рядовой» Иванов.

Омонимы не только увеличивают размер индексной базы (так как для каждого такого слова приходится хранить все его возможные значения), но и отрицательно сказываются на точности поиска. Если пользователь ищет слово «данные», ему неинтересно получить в найденном все документы, которые содержат слово «дать». Для того, чтобы результаты поиска были точнее, модуль синтаксического анализа проводит разбор окружения слов-омонимов с целью установления их наиболее вероятных значений. Например, если рядом со словом «печь» стоит существительное («пирожки», «картошка»), то с высокой вероятностью «печь» в данном контексте является глаголом. На сегодняшний день анализатор способен распознавать значения только грамматических омонимов.

Синтаксический анализ позволяет также с определенной вероятностью распознавать некоторые имена собственные. Например, если в тексте несколько слов подряд написано с большой буквы, они чаще всего представляют собой имя собственное (Петр Петрович, Московский Государственный Университет). Данные о таких конструкциях учитываются при индексации и обработке запроса.

Еще один способ повышения точности поиска — это выделение устойчивых обозначений и поиск их как отдельных лексических единиц. На сегодняшний день в Рамблере реализована система распознавания таких конструкций, например C++, б/у, п/п-к. Если по запросу С++ поднимать все тексты, в которых присутствуют латинская буква С, а также знак +, то получится огромное количество документов, далеко не все из которых соответствуют запросу; кроме того, это большая работа, значительно увеличивающая время поиска.

Огромную роль в повышении точности поиска играет ранжирование. Пользователь очень редко просматривает больше трех страниц с результатами поиска. Поэтому субъективно он оценивает точность по «верхним» документам. Даже если нужный документ найден поисковой машиной, но расположен на двухсотой позиции, скорее всего, он никогда не будет найден пользователем.

По умолчанию в Рамблере результаты ранжируются по степени соответствия (релевантности) запросу и группируются по сайтам. При ранжировании оцениваются различные характеристики текстов, такие как:

Количество вхождений слов (словосочетаний) в документ — чем больше раз словосочетание «Красная площадь» присутствует в тексте, тем выше вероятность, что в нем действительно говорится о Красной площади;Расположение слов запроса в документе — если словосочетание «Красная площадь» присутствует в заголовках или названии документа, то документ с большей вероятностью посвящен Красной площади;Формы слов запроса — преимущество отдается вхождениям, в которых слова имеют тот же падеж, число, склонение и т.д., что и в запросе пользователя («Красная площадь», а не «Красной площадью»). Помимо точного совпадения, выделяются две группы форм слов — близкие и далекие. Близкими считаются изменения по падежам, склонениям, спряжениям, числам и родам. Далекими формами являются причастия, деепричастия и т.п. При ранжировании преимущество отдается близким формам слов запроса.Расстояние между словами запроса — если запрос состоит из нескольких слов, то в найденных документах оценивается, насколько близко друг от друга расположены эти слова. Преимущество отдается документам, в которых слова запроса находятся ближе друг к другу, потому что в этом случае они с большей вероятностью связаны между собой. Например, если слово «Красная» расположено в тексте на 5 позиции, а слово «площадь» - на 650, то скорее всего в документе речь идет не о Красной площади.Относительная частота (отношение количества вхождений слов запроса в документ к общему количеству слов в документе) - если словосочетание встречается 10 раз в документе из 100 слов, то он скорее соответствует запросу, чем если оно встречается те же 10 раз в документе из 20 тысяч слов;Популярность — поисковая машина автоматически вычисляет коэффициент популярности каждой страницы Интернет на основе данных счетчика Top100 и анализа гипертекстовых ссылок между страницами. Преимущество отдается более популярным ресурсам.Ссылочный вес документа — при ранжировании учитывается ссылочный вес страницы, рассчитанный на основании учета гиперссылок, содержащих слова запроса. Так, если на некоторый документ словами «Красная площадь» ссылается большое количество страниц с высокими поэффициентами популярности, то ему отдается приоритет по запросу Красная площадь.

Помимо автоматических способов увеличения точности поиска, существуют различные средства, с помощью которых пользователь сам может уточнить поиск по отдельным запросам. В первую очередь к ним относится специальный язык поискового запроса, используя который можно ограничивать количество найденных документов. Например, запрос или его часть, взятые в кавычки, обрабатываются буквально, с учетом всех стоп-слов, форм, порядка, знаков препинания. Это повышает точность поиска, но уменьшает его полноту: если часть, заключенная в кавычки, неточна, нужный документ найден не будет.

Использование логического оператора OR (ИЛИ) позволяет расширить сферу поиска и увеличить его полноту, в то время как оператор NOT (И-НЕ), наоборот, повышает точность поиска за счет нахождения документов, которые содержат одни слова запроса и не содержат другие. Для повышения точности можно также задавать расстояние между словами. Если в искомом словосочетании порядок слов обычно сохраняется (например, Красная площадь), то в запросе для повышения точности имеет смысл ограничить расстояние, указав его в скобках через запятую: (2, Красная площадь). Это позволит отсеять документы, в которых слова красная и площадь не расположены рядом, а разбросаны по тексту.

Увеличить точность можно с помощью использования поиска в найденном. Уточняющий поиск, проводится уже не по всей индексной базе, а только по результатам предыдущего поиска. Таким образом, круг найденных документов сужается. Например, если дать запрос Красная площадь, а затем, провести поиск в найденном по запросу Москва, то результат будет содержать только те документы, в которых говорится о Красной площади города Москвы.

Актуальность

Актуальность — не менее важная характеристика поиска, которая определяется временем, проходящим с момента публикации документов в сети Интернет, до занесения их в индексную базу. Например, на следующий день после теракта в Тушино огромное количество пользователей обратились к поисковой машине Рамблер с соответствующими запросами. Объективно с момента публикации новостной информации на эту тему прошло меньше суток. Однако основные документы уже были заиндексированы и доступны для поиска, благодаря существованию «быстрой базы», которая обновляется два раза в день, а при необходимости может обновляться быстрее.

На сегодняшний день индексная база поисковой системы Рамблер состоит из 8 частей, каждая из которых живет своей независимой жизнью. Весь Интернет условно разделен на 7 секторов и называется своим цветом: красный, оранжевый, желтый, зеленый, голубой, синий, фиолетовый. Сайт компании Рамблер относится к голубому сектору. Информация о web-ресурсах каждого сектора хранится в соответствующей части индексной базы. Восьмая часть — «быстрая база» - включает в себя страницы, на которых размещен счетчик Тор 100 и которые еще не успели попасть в основную индексную базу.

Все части индексной базы собираются и обновляются по отдельности. Так, сегодня происходит переиндексация и обновление красного сектора, завтра — оранжевого и желтого, послезавтра — зеленого и т.д. Благодаря такому ступенчатому алгоритму в поисковой машине регулярно появляется свежая информация. Полный цикл обновления занимает около недели. При этом сбор информации происходит параллельно, а непосредственно на изготовление индекса документов одного сектора уходит всего несколько часов. Поэтому существует принципиальная возможность обновлять индексную базу быстрее.

Разделение Интернета на 7 секторов условно. При необходимости он может быть разбит на 10, 20 или 40 секторов, каждый из которых будет обрабатываться автономно. В такой системе заложена возможность значительного увеличения нагрузки. С ростом объема информации в сети Интернет растет и индексная база поисковой машины. Постепенно переиндексация и сборка базы начинает занимать все больше времени, а процесс обновления индекса становится более громоздким. Поступление новых данных затягивается, информация начинает терять свою актуальность. Возможность «передела» Интернета на большее число секторов позволяет удерживать размер каждой части базы в оптимальном диапазоне, контролировать время ее сборки и обновления.

«Быстрая база» отличается от остальных частей индекса меньшим объемом и очень оперативным обновлением: время ее построения занимает около двух часов. В базе содержится информация о страницах, на которых был установлен счетчик Тор 100. Участниками рейтинга Тор 100 являются новостные порталы, сайты крупных компаний, Интернет-магазины, форумы, - все наиболее популярные ресурсы в сети. Каждый раз при установке счетчика на новую страницу сайта, зарегистрированного в Тор 100, информация передается в поисковую систему. Страница ищется во всех цветах основной базы и, если она еще не известна поисковой системе, отправляется в очередь на обработку. Перед обработкой страницы дополнительно фильтруются, из них отбираются самые посещаемые. Таким образом, «сливки» с Интернета собираются два раза в день.

«Быстрая база» представляет собой разумное решение проблемы актуальности данных в поиске. Информационное агентство может выложить новость через десять минут после ее появления, потому что тратит время только на верстку страницы. Поисковая машина должна сначала заиндексировать текст, а на это требуется гораздо больше времени. «Быстрая база» охватывает все ресурсы Интернет, зарегистрированные в Тор 100, на которых был размещен счетчик, и которые еще не успели попасть в основную базу. При этом индексируются как страницы с новостями, так и другие свежие документы, появившиеся в Тор 100. В результате через сутки после теракта в поиске Рамблера была доступна не только основная информация, опубликованная на сайтах новостных агентств, которую можно найти и прочитать в разделах новостей, но и комментарии, высказывания очевидцев, обсуждения на форумах, все, что было к этому времени опубликовано на наиболее посещаемых страницах Интернета.

Скорость поиска

Скорость поиска тесно связана с его устойчивостью к нагрузкам. На сегодняшний день в рабочие часы к поисковой машине Рамблер приходит около 60 запросов в секунду. Такая загруженность требует сокращения времени обработки отдельного запроса. Здесь интересы пользователя и поисковой системы совпадают: посетитель хочет получить результаты как можно быстрее, а поисковая машина должна отрабатывать запрос максимально оперативно, чтобы не тормозить вычисление следующих. Схематично обработка поискового запроса изображена на рисунке 1.

Запрос поступает в поисковую систему через маршрутизатор Cisco 6000 series. Cisco передает его наименее загруженной машине первого уровня — frontend (1,1 — 1,3, на рис. машине 1,3). Frontend, в свою очередь, отправляет запрос дальше, на один из восьми proxy-серверов, также выбирая наиболее свободный сервер (2,1 — 2,8, на рис. машине 2,2). Одновременно frontend отправляет запрос на машины, осуществляющие поиск по товарам (3,1 — 3,2, на рис. машине 3,1) и по базе Тор 100 (4,1 — 4,2, на рис. машине 4,1). На proxy проводится поиск по ссылочному индексу, и его результаты вместе с поисковым запросом передаются на машины, которые содержат основную индексную базу, - backends (5.1.х — 5.7.х, на рис. машинам 5.1.2, 5.2.11, 5.3.1 и т.д.) Та же информация отправляется на машины с «быстрой базой» (6,1 — 6,2, на рис. 6,1).

На текущий момент в поиск включено 77 backend'ов. Они сгруппированы по 11 машин, и каждая группа содержит копию одной из частей поискового индекса. Таким образом, информация о сайтах, условно входящих в красный сектор Интернета, находится на backend'ах первой группы (5.1.1 — 5.1.11 на рис), оранжевый сектор — на backend'ах второй группы (5.2.1 — 5.2.11) и т.д. Proxy-сервер выбирает наименее загруженный backend в каждой группе машин и отправляет на него поисковый запрос с результатами ссылочного поиска. На backend'ах осуществляется поиск по частям индексной базы и ранжирование с учетом результатов поиска по ссылочному индексу. При ранжировании для всех найденных документов высчитываются веса по конкретному запросу.

После того, как запрос обработан на backend'ах, информация о результатах и ранжировании отдается обратно на proxy-сервер. Туда же поступают отсортированные результаты с машин «быстрой базы». Proxy интегрирует данные, полученные с восьми машин: клеит дубли, объединяет зеркала сайтов, переранжирует документы в общий список по весам, рассчитанным на backend'ах. Так, первым в списке найденного может быть документ с машины 5.3.1, вторым и третьим — с 6,1, четвертым — с 5.5.2 и т.д. На proxy-сервере также реализуется построение цитат к документам и подсветка слов запроса в тексте. Полученные результаты отдаются на frontend.

Помимо информации с proxy-сервера, frontend получает результаты из поиска по товарам и из базы Тор 100, отсортированные, с цитатами и подсветкой слов запроса. Frontend осуществляет окончательное объединение результатов, генерирует html со списком найденного, вставляет баннеры и перевязки (ссылки на различные разделы Рамблера) и отдает html Cisco, который маршрутизирует информацию пользователю.

Каждый из этапов обработки запроса многократно продублирован и защищен системой балансировки нагрузки. Благодаря дублированию информации поисковая система Рамблер является устойчивой к сбоям на отдельных участках, авариям, отказам оборудования. Если одна их машин перестала функционировать, нагрузка перераспределяется на другие машины, и выпадения документов из поиска не происходит. Масштабируемость достигается простым добавлением в систему машин соответствующего уровня. До недавнего времени в Рамблере работало 45 backend'а. В связи с тем, что осенью нагрузка на поисковые системы обычно возрастает, число backend'ов было увеличено до 77, что позволило значительно ускорить вычисление запросов.

Еще один способ повышения скорости поиска — «кэширование», сохранение информации о запросах и результатах поиска в буфере. Многие люди дают одни и те же поисковые запросы. Вычислять их каждый раз заново было бы неразумной тратой времени. Поэтому если запрос уже обрабатывался в течение некоторого интервала времени, результаты поиска отдаются пользователю из «кэша».

Лингвистический анализ текста документов и запроса также позволяет ускорить обработку информации. Например, определение значения омонимов уменьшает количество нерелевантных запросу документов, которые нужно ранжировать и цитировать. Выделение устойчивых обозначений (С++, б/у) на этапах индексации и обработки запроса приводит одновременно к повышению точности и сокращению временных затрат на обработку каждого отдельного элемента обозначения (раньше запрос С++ обрабатывался как отдельно латинское С, отдельно плюс и еще один плюс. Запрос вычислялся долго, а среди результатов поиска было много нерелевантных документов, например, страницы, содержащие математические формулы и т.п.) С этой же целью используются словари стоп-слов. Стоп-слова — это наиболее частотные слова языка, которые встречаются практически в любом тексте и являются малоинформативными. В основном, это служебные слова — предлоги, частицы, артикли. Если нет специальных указаний, поисковая машина игнорирует стоп-слова, встречающиеся в запросе, чтобы не тратить время на обработку дополнительной информации, снижающей качество поиска.

Наглядность

Наглядность представления результатов является необходимым компонентом удобного поиска. На плохой витрине легко не заметить хороший товар. По большинству запросов поисковая машина находит сотни, а то и тысячи документов. В следствие нечеткости запросов или неточности поиска, даже первые страницы не всегда содержат только нужную информацию. Это означает, что пользователю часто приходится проводить свой собственный поиск внутри списка найденного. Различные элементы ответной страницы помогают ориентироваться в результатах поиска.

Группировка по сайтам предназначена для того, чтобы на странице можно было вывести как можно больше Интернет-ресурсов, релевантных запросу пользователя. Это бывает важным, когда необходимо получить информацию из различных источников. Если более информативной для посетителя является дата обновления или релевантность отдельных документов, в ответной странице Рамблера существует возможность сортировки по этим параметрам.

В некоторых случаях полезным бывает знание имени сайта. Если пользователя интересует конкретный Интернет-ресурс, имя может дать ему гораздо больше информации, чем заголовок страницы или цитата.

Если запросу соответствует больше одной страницы с сайта, то в качестве результата поиска предъявляется наиболее релевантная из них, а ниже располагается частичный список остальных документов. Это увеличивает количество потенциально полезной информации на ответной странице и часто позволяет уточнить поиск без дополнительного запроса.

Цитата помогает определить, насколько полезную информацию содержит найденный документ. Очень часто посетителю не требуется переходить по ссылке, чтобы обнаружить, что текст не соответствует его интересам и потребностям. Иногда ответ на вопрос пользователя содержится непосредственно в цитате документа. Это экономит время и повышает эффективность работы поисковой системы.

Восстановить текст — иногда единственный способ получить доступ к содержимому найденного документа. Ресурс бывает недоступен по разным причинам. Документ может быть удален, перенесен, изменен, но его текстовое содержание некоторое время сохраняется в индексной базе. Кроме того, внутри самого документа часто отсутствует навигация, позволяющая быстро найти фрагмент, релевантный запросу. В восстановленном тексте все слова запроса подсвечиваются.

Ассоциации представляют собой список запросов, которые часто подаются пользователями в течении одной поисковой сессии. Алгоритм построения ассоциаций устроен так, что они почти всегда связаны между собой по смыслу. В некоторых случаях ассоциации позволяют повысить качество поиска за счет уточнения запроса (запрос «отдых в Польше» - ассоциации «отдых в Польше с детьми», «семейный отдых», «пансионаты в Польше»), исправления распространенных ошибок (запрос «gjujlf» - ассоциация «погода»), возможности сориентироваться в незнакомой тематике (запрос «антибиотик» - ассоциации «сумамед», «цифран», «бисептол» и т.д.)

Вместо заключения

Заключение пишется в конце и предполагает конечность. Но рост информации бесконечен, а потому нет предела совершенствованию поисковых машин. Важнейшей задачей разработчиков является улучшение качества поиска, движение в сторону большей эффективности и удобства в использовании системы. С этой целью постоянно меняются поисковые алгоритмы, создаются дополнительные сервисы, дорабатывается дизайн.

Однако для того, чтобы выжить в мире динамичного Интернета, при разработке необходимо закладывать большой запас устойчивости, постоянно заглядывать в завтрашний день и примерять будущую нагрузку на сегодняшний поиск. Все, что сегодня программируется в Рамблере, рассчитано «на вырост». Такой подход позволяет заниматься не только постоянной борьбой и приспособлением поисковой машины к растущим объемам информации, но и реализовывать что-то новое, действительно важное и нужное для повышения эффективности поиска в сети Интернет.