Skip to content

필사 모드: 657,607本のリンクを辿った結果とURLの寿命 — リンクはなぜ404ではなく接続失敗で死ぬのか

日本語
0%
정확도 0%
💡 왼쪽 원문을 읽으면서 오른쪽에 따라 써보세요. Tab 키로 힌트를 받을 수 있습니다.

この記事は2026-08-15にHacker News APIとGeekNewsフィードで直接確認した項目に基づいています。スコアと順位は変わり続けます。

何が上がっていたか

Hacker News APIで確認した項目です。タイトルは Where did the old web go? We followed 657,607 links to find out、アイテム番号は49289532で、2026-08-15時点で221ポイント、コメント207件でした。リンク先は0.mkというマケドニアのリンク短縮サービスが自分のデータを調査した記事です。

調査の方法

この記事は方法を比較的正直に記しています。対象は2009年から2014年の間にそのサービスで作られたリンク657,607本で、古いデータベースのバックアップから復元しました。形式が壊れているかアクセスできない2,429件を除き、実際にクロールしたのは655,178本です。追跡は2026年8月に行われました。

クローラはリダイレクトを最大5回まで辿り、接続失敗は別のネットワークからもう一度試しました。成功の定義はHTTP 2xxと3xxです。

結果より重要なのは失敗の内訳です

全体の結果はこうです。23.32%が正常に開き、25.44%がHTTPエラーを返し、51.24%は接続そのものができませんでした。接続失敗の原因としてDNS、タイムアウト、TLSの問題が列挙されています。

この3つ目の数字がこの調査で最も重要な発見です。

私たちはリンクが死ぬ場面をたいてい404で想像します。サイトは生きているのにその文書だけが移動したか消された状況です。ところが実際にはそれが少数派でした。死んだリンクの多くはサーバに到達すること自体が失敗しており、これは文書ではなくドメインとホスティングが丸ごと消えたという意味です。

この区別が実務的に重要なのは、対応がまったく違うからです。404は原則として直せます。リダイレクトを張るか新しい場所を探せばよい。ところがDNSが応答しなければ直す対象自体がありません。つまりリンク腐敗の多くはコンテンツ管理の問題ではなく組織消滅の問題です。

重複を除いた結果もあります。固有の宛先494,781件のうち開いたのは21.3%だけでした。ホスト名基準では133,605件のうち34,827件だけが成功したURLを1つでも持っていました。HTTPエラーで最も多かったのは404で、76,403件のURLで出ました。

年別の数値とその罠

年別の失敗率は2009年64.58%、2010年60.39%、2011年92.53%、2012年59.43%、2013年75.06%、2014年78.16%と記されています。

ここで記事が自ら示した但し書きが重要です。2011年の数値がとりわけ高い理由は、83,398本の大量登録の束が1つその年に入っていて結果が偏ったからです。この注を付けたことは信頼できる兆候ですが、同時に年別の傾向をそのまま読んではいけないという警告でもあります。

そして調査設計でもう1つ押さえるべき点があります。成功を2xxと3xxで定義すると、ソフト404が生きているものとして集計されます。ドメインが売られて広告ページになった場合や、サイト改編で古いアドレスがすべてトップへリダイレクトされる場合がすべて成功です。つまり実際の生存率は23.32%より低い可能性が高いです。この調査はリンク腐敗を誇張する側ではなく過小評価する側に偏っています。

何が生き残ったか

記事がまとめたパターンは予想どおりで、かつ痛いものです。大きなプラットフォームはよく生き残り、個人ブログ、フォーラム、地域メディア、写真ホスティングはそうではありませんでした。記事は中央集権化したウェブのほうが小さなウェブよりおおむね持ちこたえたとまとめます。

そしてこの調査にしかない細部が1つあります。リンク4,478本が他の短縮サービスを指していました。この場合、失敗確率が掛け合わさります。元のサイトが生きていても中間の短縮サービスが閉じればリンクは死にます。リダイレクトの鎖が長いほど寿命は最も弱い環に従います。

コメントで繰り返された話の1つは、古いウェブがいつだったかという定義の争いで、もう1つはこの調査の皮肉でした。10年ほどオフラインだった短縮サービスが、他のサイトが消えたという記事を書いているという指摘です。

自分たちのシステムで何を変えるべきか

この調査が実務者に与える結論は古いウェブへの感慨ではありません。外部URLは時間が経つと価値がなくなる資産だということであり、みなさんのデータベースにそういう列があるなら、すでにその減衰を抱えているということです。

3つに分けられます。

第一に、参照を保存するとき根拠も一緒に保存します。ユーザーがリンクを提出したりシステムが外部文書を引用したりするなら、URLだけを残さず、その時点のタイトル、公開日、可能なら本文の一部やスナップショットを併せて残します。あとで原本が消えても何を指していたかは残ります。これは保存容量を使う代わりに、あとで調査不能になることを防ぐ取引です。

第二に、リダイレクトの鎖を減らします。上の4,478件が示すとおり、中間段は掛け合わさるリスクです。とくに社内システムで短縮URLを発行して文書にばらまいているなら、その短縮サービスの寿命がそれらの文書全体の寿命の上限になります。

第三に、自分が発行するアドレスを寿命の観点で設計します。アドレスにフレームワーク名、配備方式、組織図の構造が入っていれば、その3つのどれかが変わるときアドレスがすべて変わります。リダイレクトを残すのが正解なのに、実際には移行作業の最後の項目なので抜けがちです。REST API設計のベストプラクティスHTTPキャッシング戦略も併せて読む価値があります。

1つ付け加えると、リンクが生きているか定期的に確認する作業は自動化しやすいです。ただし上で見たソフト404の問題があるため、応答コードだけで判定してはいけません。最低限、最終URLが元のパスから大きく変わっていないか、応答の長さが異常に短くないかも併せて見る必要があります。

誰には当てはまらないか

外部リンクをデータとして扱わないシステムには該当しません。内部リソースだけを参照し、その寿命を自分たちが制御しているなら、これはリンク腐敗ではなく単なる移行管理です。

寿命の短いデータも同様です。数週間後に廃棄されるリンクなら10年後の生存率は意味がありません。

逆にこの調査が直接狙うのは、参照が根拠として使われるシステムです。引用を保管するツール、規制順守の記録、ナレッジベース、そして学習データに出典URLを併記するパイプラインです。こうした場所では、数年後に根拠を提示できない状況が実際の損害になります。

まとめ

この調査で覚えるべき数字は23.32%ではなく51.24%です。リンクは主に文書が移動して死ぬのではなく、それを提供していたものが無くなって死にます。すると対応も変わります。リンクを直す仕事ではなく、参照する時点で根拠を一緒に押さえておく仕事になります。そして成功を3xxまで広く取ったこの調査の数字ですら楽観的な側である可能性が高いです。

原文と関連記事

ソフト404による過小評価の可能性と、自分たちのシステムへの提案は、原文に記された方法をもとに筆者が整理したものです。

현재 단락 (1/31)

Hacker News APIで確認した項目です。タイトルは `Where did the old web go? We followed 657,607 links to find out`、アイテ...

작성 글자: 0원문 글자: 4,051작성 단락: 0/31