1d0b1fecf323ab7f491e547a22bf4f74f75dae23
[elpher.git] / elpher.el
1 ;;; elpher.el --- A friendly gopher and gemini client  -*- lexical-binding: t -*-
2
3 ;; Copyright (C) 2021 Jens Östlund <jostlund@gmail.com>
4 ;; Copyright (C) 2021 F. Jason Park <jp@neverwas.me>
5 ;; Copyright (C) 2021 Christopher Brannon <chris@the-brannons.com>
6 ;; Copyright (C) 2021 Omar Polo <op@omarpolo.com>
7 ;; Copyright (C) 2021 Noodles! <nnoodle@chiru.no>
8 ;; Copyright (C) 2020-2021 Alex Schroeder <alex@gnu.org>
9 ;; Copyright (C) 2020 Zhiwei Chen <chenzhiwei03@kuaishou.com>
10 ;; Copyright (C) 2020 condy0919 <condy0919@gmail.com>
11 ;; Copyright (C) 2020 Alexis <flexibeast@gmail.com>
12 ;; Copyright (C) 2020 Étienne Deparis <etienne@depar.is>
13 ;; Copyright (C) 2020 Simon Nicolussi <sinic@sinic.name>
14 ;; Copyright (C) 2020 Michel Alexandre Salim <michel@michel-slm.name>
15 ;; Copyright (C) 2020 Koushk Roy <kroy@twilio.com>
16 ;; Copyright (C) 2020 Vee <vee@vnsf.xyz>
17 ;; Copyright (C) 2020 Simon South <simon@simonsouth.net>
18 ;; Copyright (C) 2019-2021 Tim Vaughan <plugd@thelambdalab.xyz>
19
20 ;; Author: Tim Vaughan <plugd@thelambdalab.xyz>
21 ;; Created: 11 April 2019
22 ;; Version: 3.0.0
23 ;; Keywords: comm gopher
24 ;; Homepage: https://thelambdalab.xyz/elpher
25 ;; Package-Requires: ((emacs "27.1"))
26
27 ;; This file is not part of GNU Emacs.
28
29 ;; This program is free software: you can redistribute it and/or modify
30 ;; it under the terms of the GNU General Public License as published by
31 ;; the Free Software Foundation, either version 3 of the License, or
32 ;; (at your option) any later version.
33
34 ;; This program is distributed in the hope that it will be useful,
35 ;; but WITHOUT ANY WARRANTY; without even the implied warranty of
36 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
37 ;; GNU General Public License for more details.
38
39 ;; You should have received a copy of the GNU General Public License
40 ;; along with this file.  If not, see <http://www.gnu.org/licenses/>.
41
42 ;;; Commentary:
43
44 ;; Elpher aims to provide a practical and friendly gopher and gemini
45 ;; client for GNU Emacs.  It supports:
46
47 ;; - intuitive keyboard and mouse-driven browsing,
48 ;; - out-of-the-box compatibility with evil-mode,
49 ;; - clickable web and gopher links *in plain text*,
50 ;; - caching of visited sites,
51 ;; - pleasant and configurable colouring of Gopher directories,
52 ;; - direct visualisation of image files,
53 ;; - gopher connections using TLS encryption,
54 ;; - the fledgling Gemini protocol,
55 ;; - the greybeard Finger protocol.
56
57 ;; To launch Elpher, simply use 'M-x elpher'.  This will open a start
58 ;; page containing information on key bindings and suggested starting
59 ;; points for your gopher exploration.
60
61 ;; Full instructions can be found in the Elpher info manual.
62
63 ;; Elpher is under active development.  Any suggestions for
64 ;; improvements are welcome, and can be made on the official
65 ;; project page, gopher://thelambdalab.xyz/elpher, or via the
66 ;; project mailing list at https://lists.sr.ht/~michel-slm/elpher.
67
68 ;;; Code:
69
70 (provide 'elpher)
71
72 ;;; Dependencies
73 ;;
74
75 (require 'seq)
76 (require 'pp)
77 (require 'shr)
78 (require 'url-util)
79 (require 'subr-x)
80 (require 'dns)
81 (require 'nsm)
82 (require 'gnutls)
83 (require 'socks)
84
85 ;;; ANSI colors or XTerm colors
86
87 (or (require 'xterm-color nil t)
88     (require 'ansi-color))
89
90 (defalias 'elpher-color-filter-apply
91   (if (fboundp 'xterm-color-filter)
92       (lambda (s)
93         (let ((_xterm-color-render nil))
94           (xterm-color-filter s)))
95     #'ansi-color-filter-apply)
96   "A function to filter out ANSI escape sequences.")
97
98 (defalias 'elpher-color-apply
99   (if (fboundp 'xterm-color-filter)
100       #'xterm-color-filter
101     #'ansi-color-apply)
102   "A function to apply ANSI escape sequences.")
103
104 ;;; Global constants
105 ;;
106
107 (defconst elpher-version "3.0.0"
108   "Current version of elpher.")
109
110 (defconst elpher-margin-width 6
111   "Width of left-hand margin used when rendering indicies.")
112
113 (defconst elpher-type-map
114   '(((gopher ?0) elpher-get-gopher-page elpher-render-text "txt" elpher-text)
115     ((gopher ?1) elpher-get-gopher-page elpher-render-index "/" elpher-index)
116     ((gopher ?4) elpher-get-gopher-page elpher-render-download "bin" elpher-binary)
117     ((gopher ?5) elpher-get-gopher-page elpher-render-download "bin" elpher-binary)
118     ((gopher ?7) elpher-get-gopher-query-page elpher-render-index "?" elpher-search)
119     ((gopher ?9) elpher-get-gopher-page elpher-render-download "bin" elpher-binary)
120     ((gopher ?g) elpher-get-gopher-page elpher-render-image "img" elpher-image)
121     ((gopher ?p) elpher-get-gopher-page elpher-render-image "img" elpher-image)
122     ((gopher ?I) elpher-get-gopher-page elpher-render-image "img" elpher-image)
123     ((gopher ?d) elpher-get-gopher-page elpher-render-download "doc" elpher-binary)
124     ((gopher ?P) elpher-get-gopher-page elpher-render-download "doc" elpher-binary)
125     ((gopher ?s) elpher-get-gopher-page elpher-render-download "snd" elpher-binary)
126     ((gopher ?h) elpher-get-gopher-page elpher-render-html "htm" elpher-html)
127     (gemini elpher-get-gemini-page elpher-render-gemini "gem" elpher-gemini)
128     (finger elpher-get-finger-page elpher-render-text "txt" elpher-text)
129     (telnet elpher-get-telnet-page nil "tel" elpher-telnet)
130     (other-url elpher-get-other-url-page nil "url" elpher-other-url)
131     ((special start) elpher-get-start-page nil "E" elpher-index)
132     ((special history) elpher-get-history-page nil "E" elpher-index)
133     ((special visited-pages) elpher-get-visited-pages-page nil "E" elpher-index))
134   "Association list from types to getters, renderers, margin codes and index faces.")
135
136
137 ;;; Declarations to avoid compiler warnings.
138 ;;
139
140 (eval-when-compile
141   (defvar bookmark-make-record-function)
142   (declare-function bookmark-store "bookmark")
143   (declare-function org-link-store-props "ol")
144   (declare-function org-link-set-parameters "ol")
145   (defvar thing-at-point-uri-schemes)
146   (defvar mu4e~view-beginning-of-url-regexp))
147
148
149 ;;; Customization group
150 ;;
151
152 (defgroup elpher nil
153   "A gopher and gemini client."
154   :group 'applications)
155
156 ;; General appearance and customizations
157
158 (defcustom elpher-open-urls-with-eww nil
159   "If non-nil, open URL selectors using eww.
160 Otherwise, use the system browser via the `browse-url' function."
161   :type '(boolean))
162
163 (defcustom elpher-use-header t
164   "If non-nil, display current page information in buffer header."
165   :type '(boolean))
166
167 (defcustom elpher-auto-disengage-TLS nil
168   "If non-nil, automatically disengage TLS following an unsuccessful connection.
169 While enabling this may seem convenient, it is also potentially
170 dangerous as it allows switching from an encrypted channel back to
171 plain text without user input."
172   :type '(boolean))
173
174 (defcustom elpher-connection-timeout 5
175   "Specifies the number of seconds to wait for a network connection to time out."
176   :type '(integer))
177
178 (defcustom elpher-filter-ansi-from-text nil
179   "If non-nil, filter ANSI escape sequences from text.
180 The default behaviour is to use the ansi-color package to interpret these
181 sequences."
182   :type '(boolean))
183
184 (defcustom elpher-certificate-directory
185   (file-name-as-directory (locate-user-emacs-file "elpher-certificates"))
186   "Specify the name of the directory where client certificates will be stored.
187 These certificates may be used for establishing authenticated TLS connections."
188   :type '(directory))
189
190 (defcustom elpher-openssl-command "openssl"
191   "The command used to launch openssl when generating TLS client certificates."
192   :type '(file))
193
194 (defcustom elpher-default-url-type "gopher"
195   "Default URL type (i.e. scheme) to assume if not explicitly given."
196   :type '(choice (const "gopher")
197                  (const "gemini")))
198
199 (defcustom elpher-gemini-TLS-cert-checks nil
200   "If non-nil, verify gemini server TLS certs using the default security level.
201 Otherwise, certificate verification is disabled.
202
203 This defaults to off because it is standard practice for Gemini servers
204 to use self-signed certificates, meaning that most servers provide what
205 EMACS considers to be an invalid certificate."
206   :type '(boolean))
207
208 (defcustom elpher-gemini-max-fill-width 80
209   "Specify the maximum default width (in columns) of text/gemini documents.
210 The actual width used is the minimum of this value and the window width at
211 the time when the text is rendered."
212   :type '(integer))
213
214 (defcustom elpher-gemini-link-string "→ "
215   "Specify the string used to indicate links when rendering gemini maps.
216 May be empty."
217   :type '(string))
218
219 (defcustom elpher-gemini-bullet-string "•"
220   "Specify the string used for bullets when rendering gemini maps."
221   :type '(string))
222
223 (defcustom elpher-ipv4-always nil
224   "If non-nil, elpher will always use IPv4 to establish network connections.
225 This can be useful when browsing from a computer that supports IPv6, because
226 some servers which do not support IPv6 can take a long time to time-out."
227   :type '(boolean))
228
229 (defcustom elpher-socks-always nil
230   "If non-nil, elpher will establish network connections over a SOCKS proxy.
231 Otherwise, the SOCKS proxy is only used for connections to onion services."
232   :type '(boolean))
233
234 ;; Face customizations
235
236 (defgroup elpher-faces nil
237   "Elpher face customizations."
238   :group 'elpher)
239
240 (defface elpher-index
241   '((t :inherit font-lock-keyword-face))
242   "Face used for directory type directory records.")
243
244 (defface elpher-text
245   '((t :inherit bold))
246   "Face used for text type directory records.")
247
248 (defface elpher-info
249   '((t :inherit default))
250   "Face used for info type directory records.")
251
252 (defface elpher-image
253   '((t :inherit font-lock-string-face))
254   "Face used for image type directory records.")
255
256 (defface elpher-search
257   '((t :inherit warning))
258   "Face used for search type directory records.")
259
260 (defface elpher-html
261   '((t :inherit font-lock-comment-face))
262   "Face used for html type directory records.")
263
264 (defface elpher-gemini
265   '((t :inherit font-lock-constant-face))
266   "Face used for Gemini type directory records.")
267
268 (defface elpher-other-url
269   '((t :inherit font-lock-comment-face))
270   "Face used for other URL type links records.")
271
272 (defface elpher-telnet
273   '((t :inherit font-lock-function-name-face))
274   "Face used for telnet type directory records.")
275
276 (defface elpher-binary
277   '((t :inherit font-lock-doc-face))
278   "Face used for binary type directory records.")
279
280 (defface elpher-unknown
281   '((t :inherit error))
282   "Face used for directory records with unknown/unsupported types.")
283
284 (defface elpher-margin-key
285   '((t :inherit bold))
286   "Face used for directory margin key.")
287
288 (defface elpher-margin-brackets
289   '((t :inherit shadow))
290   "Face used for brackets around directory margin key.")
291
292 (defface elpher-gemini-heading1
293   '((t :inherit bold :height 1.8))
294   "Face used for gemini heading level 1.")
295
296 (defface elpher-gemini-heading2
297   '((t :inherit bold :height 1.5))
298   "Face used for gemini heading level 2.")
299
300 (defface elpher-gemini-heading3
301   '((t :inherit bold :height 1.2))
302   "Face used for gemini heading level 3.")
303
304 (defface elpher-gemini-preformatted
305   '((t :inherit fixed-pitch))
306   "Face used for pre-formatted gemini text blocks.")
307
308 (defface elpher-gemini-quoted
309   '((t :inherit font-lock-doc-face))
310   "Face used for gemini quoted texts.")
311
312 ;;; Model
313 ;;
314
315 ;; Address
316
317 ;; An elpher "address" object is either a url object or a symbol.
318 ;; Symbol addresses are "special", corresponding to pages generated
319 ;; dynamically for and by elpher.  All others represent pages which
320 ;; rely on content retrieved over the network.
321
322 (defun elpher-address-from-url (url-string)
323   "Create a ADDRESS object corresponding to the given URL-STRING."
324   (let ((data (match-data))) ; Prevent parsing clobbering match data
325     (unwind-protect
326         (let ((url (url-generic-parse-url url-string)))
327           (unless (and (not (url-fullness url)) (url-type url))
328             (setf (url-fullness url) t)
329             (unless (url-type url)
330               (setf (url-type url) elpher-default-url-type))
331             (unless (url-host url)
332               (let ((p (split-string (url-filename url) "/" nil nil)))
333                 (setf (url-host url) (car p))
334                 (setf (url-filename url)
335                       (if (cdr p)
336                           (concat "/" (mapconcat #'identity (cdr p) "/"))
337                         ""))))
338             (when (or (equal "gopher" (url-type url))
339                       (equal "gophers" (url-type url)))
340               ;; Gopher defaults
341               (when (or (equal (url-filename url) "")
342                         (equal (url-filename url) "/"))
343                 (setf (url-filename url) "/1")))
344             (when (equal "gemini" (url-type url))
345               ;; Gemini defaults
346               (if (equal (url-filename url) "")
347                   (setf (url-filename url) "/"))))
348           (elpher-remove-redundant-ports url))
349       (set-match-data data))))
350
351 (defun elpher-remove-redundant-ports (address)
352   "Remove redundant port specifiers from ADDRESS.
353 Here 'redundant' means that the specified port matches the default
354 for that protocol, eg 70 for gopher."
355   (if (and (not (elpher-address-special-p address))
356            (eq (url-portspec address) ; (url-port) is too slow!
357                (pcase (url-type address)
358                  ("gemini" 1965)
359                  ((or "gopher" "gophers") 70)
360                  ("finger" 79)
361                  (_ -1))))
362       (setf (url-portspec address) nil))
363   address)
364
365 (defun elpher-make-gopher-address (type selector host port &optional tls)
366   "Create an ADDRESS object using gopher directory record attributes.
367 The basic attributes include: TYPE, SELECTOR, HOST and PORT.
368 If the optional attribute TLS is non-nil, the address will be marked as
369 requiring gopher-over-TLS."
370   (cond
371    ((equal type ?i) nil)
372    ((and (equal type ?h)
373          (string-prefix-p "URL:" selector))
374     (elpher-address-from-url (elt (split-string selector "URL:") 1)))
375    ((equal type ?8)
376     (elpher-address-from-url
377      (concat "telnet"
378              "://" host
379              ":" (number-to-string port))))
380    (t
381     (elpher-address-from-url
382      (concat "gopher" (if tls "s" "")
383              "://" host
384              ":" (number-to-string port)
385              "/" (string type)
386              selector)))))
387
388 (defun elpher-make-special-address (type)
389   "Create an ADDRESS object corresponding to the given special address symbol TYPE."
390   type)
391
392 (defun elpher-address-to-url (address)
393   "Get string representation of ADDRESS, or nil if ADDRESS is special."
394   (if (elpher-address-special-p address)
395       nil
396     (url-encode-url (url-recreate-url address))))
397
398 (defun elpher-address-type (address)
399   "Retrieve type of ADDRESS object.
400 This is used to determine how to retrieve and render the document the
401 address refers to, via the table `elpher-type-map'."
402   (if (symbolp address)
403       (list 'special address)
404     (let ((protocol (url-type address)))
405       (cond ((or (equal protocol "gopher")
406                  (equal protocol "gophers"))
407              (list 'gopher
408                    (if (member (url-filename address) '("" "/"))
409                        ?1
410                      (string-to-char (substring (url-filename address) 1)))))
411             ((equal protocol "gemini")
412              'gemini)
413             ((equal protocol "telnet")
414              'telnet)
415             ((equal protocol "finger")
416              'finger)
417             (t 'other-url)))))
418
419 (defun elpher-address-protocol (address)
420   "Retrieve the transport protocol for ADDRESS.  This is nil for special addresses."
421   (if (symbolp address)
422       nil
423     (url-type address)))
424
425 (defun elpher-address-filename (address)
426   "Retrieve the filename component of ADDRESS.
427 For gopher addresses this is a combination of the selector type and selector."
428   (if (symbolp address)
429       nil
430     (url-unhex-string (url-filename address))))
431
432 (defun elpher-address-host (address)
433   "Retrieve host from ADDRESS object."
434   (url-host address))
435
436 (defun elpher-address-user (address)
437   "Retrieve user from ADDRESS object."
438   (url-user address))
439
440 (defun elpher-address-port (address)
441   "Retrieve port from ADDRESS object.
442 If no address is defined, returns 0.  (This is for compatibility with the URL library.)"
443   (if (symbolp address)
444       0
445     (url-port address)))
446
447 (defun elpher-address-special-p (address)
448   "Return non-nil if ADDRESS object is special (e.g. start page page)."
449   (symbolp address))
450
451 (defun elpher-address-gopher-p (address)
452   "Return non-nill if ADDRESS object is a gopher address."
453   (and (not (elpher-address-special-p address))
454        (member (elpher-address-protocol address) '("gopher" "gophers"))))
455
456 (defun elpher-gopher-address-selector (address)
457   "Retrieve gopher selector from ADDRESS object."
458   (if (member (url-filename address) '("" "/"))
459       ""
460     (url-unhex-string (substring (url-filename address) 2))))
461
462
463 ;; Cache
464
465 (defvar elpher-content-cache (make-hash-table :test 'equal))
466 (defvar elpher-pos-cache (make-hash-table :test 'equal))
467
468 (defun elpher-get-cached-content (address)
469   "Retrieve the cached content for ADDRESS, or nil if none exists."
470   (gethash address elpher-content-cache))
471
472 (defun elpher-cache-content (address content)
473   "Set the content cache for ADDRESS to CONTENT."
474   (puthash address content elpher-content-cache))
475
476 (defun elpher-get-cached-pos (address)
477   "Retrieve the cached cursor position for ADDRESS, or nil if none exists."
478   (gethash address elpher-pos-cache))
479
480 (defun elpher-cache-pos (address pos)
481   "Set the cursor position cache for ADDRESS to POS."
482   (puthash address pos elpher-pos-cache))
483
484
485 ;; Page
486
487 (defun elpher-make-page (display-string address)
488   "Create a page with DISPLAY-STRING and ADDRESS."
489   (list display-string address))
490
491 (defun elpher-make-start-page ()
492   "Create the start page."
493   (elpher-make-page "Elpher Start Page"
494                     (elpher-make-special-address 'start)))
495
496 (defun elpher-page-display-string (page)
497   "Retrieve the display string corresponding to PAGE."
498   (elt page 0))
499
500 (defun elpher-page-address (page)
501   "Retrieve the address corresponding to PAGE."
502   (elt page 1))
503
504 (defun elpher-page-set-address (page new-address)
505   "Set the address corresponding to PAGE to NEW-ADDRESS."
506   (setcar (cdr page) new-address))
507
508 (defvar elpher-current-page nil
509   "The current page for this Elpher buffer.")
510
511 (defvar elpher-history nil
512   "The local history stack for this Elpher buffer.
513 This variable is used by `elpher-back' and
514 `elpher-show-history'.")
515
516 (defvar elpher-visited-pages nil
517   "The global history for all Elpher buffers.
518 This variable is used by `elpher-show-visited-pages'.")
519
520 (defun elpher-visit-page (page &optional renderer no-history)
521   "Visit PAGE using its own renderer or RENDERER, if non-nil.
522 Additionally, push PAGE onto the history stack and the list of
523 previously-visited pages,unless NO-HISTORY is non-nil."
524   (elpher-save-pos)
525   (elpher-process-cleanup)
526   (unless no-history
527     (unless (equal (elpher-page-address elpher-current-page)
528                    (elpher-page-address page))
529       (push elpher-current-page elpher-history)
530       (unless (or (elpher-address-special-p (elpher-page-address page))
531                   (and elpher-visited-pages
532                        (equal page (car elpher-visited-pages))))
533         (push page elpher-visited-pages))))
534   (setq-local elpher-current-page page)
535   (let* ((address (elpher-page-address page))
536          (type (elpher-address-type address))
537          (type-record (cdr (assoc type elpher-type-map))))
538     (if type-record
539         (funcall (car type-record)
540                  (if renderer
541                      renderer
542                    (cadr type-record)))
543       (elpher-visit-previous-page)
544       (pcase type
545         (`(gopher ,type-char)
546          (error "Unsupported gopher selector type '%c' for '%s'"
547                 type-char (elpher-address-to-url address)))
548         (other
549          (error "Unsupported address type '%S' for '%s'"
550                 other (elpher-address-to-url address)))))))
551
552 (defun elpher-visit-previous-page ()
553   "Visit the previous page in the history."
554   (let ((previous-page (pop elpher-history)))
555     (if previous-page
556         (elpher-visit-page previous-page nil t)
557       (error "No previous page"))))
558
559 (defun elpher-reload-current-page ()
560   "Reload the current page, discarding any existing cached content."
561   (elpher-cache-content (elpher-page-address elpher-current-page) nil)
562   (elpher-visit-page elpher-current-page))
563
564 (defun elpher-save-pos ()
565   "Save the current position of point to the current page."
566   (when elpher-current-page
567     (elpher-cache-pos (elpher-page-address elpher-current-page) (point))))
568
569 (defun elpher-restore-pos ()
570   "Restore the position of point to that cached in the current page."
571   (let ((pos (elpher-get-cached-pos (elpher-page-address elpher-current-page))))
572     (if pos
573         (goto-char pos)
574       (goto-char (point-min)))))
575
576
577 ;;; Buffer preparation
578 ;;
579
580 (defvar elpher-buffer-name "*elpher*"
581   "The default name of the Elpher buffer.")
582
583 (defun elpher-update-header ()
584   "If `elpher-use-header' is true, display current page info in window header."
585   (if elpher-use-header
586       (let* ((display-string (elpher-page-display-string elpher-current-page))
587              (address (elpher-page-address elpher-current-page))
588              (tls-string (if (and (not (elpher-address-special-p address))
589                                   (member (elpher-address-protocol address)
590                                           '("gophers" "gemini")))
591                              " [TLS encryption]"
592                            ""))
593              (header (concat display-string
594                              (propertize tls-string 'face 'bold))))
595         (setq header-line-format header))))
596
597 (defmacro elpher-with-clean-buffer (&rest args)
598   "Evaluate ARGS with a clean *elpher* buffer as current."
599   `(with-current-buffer elpher-buffer-name
600      (unless (eq major-mode 'elpher-mode)
601        ;; avoid resetting buffer-local variables
602        (elpher-mode))
603      (let ((inhibit-read-only t)
604            (ansi-color-context nil)) ;; clean ansi interpreter state
605        (setq-local network-security-level
606                    (default-value 'network-security-level))
607        (erase-buffer)
608        (elpher-update-header)
609        ,@args)))
610
611 (defun elpher-buffer-message (string &optional line)
612   "Replace first line in elpher buffer with STRING.
613 If LINE is non-nil, replace that line instead."
614   (with-current-buffer elpher-buffer-name
615     (let ((inhibit-read-only t))
616       (goto-char (point-min))
617       (if line
618           (forward-line line))
619       (let ((data (match-data)))
620         (unwind-protect
621             (progn
622               (re-search-forward "^.*$")
623               (replace-match string))
624           (set-match-data data))))))
625
626
627 ;;; Text Processing
628 ;;
629
630 (defvar elpher-user-coding-system nil
631   "User-specified coding system to use for decoding text responses.")
632
633 (defun elpher-decode (string)
634   "Decode STRING using autodetected or user-specified coding system."
635   (decode-coding-string string
636                         (if elpher-user-coding-system
637                             elpher-user-coding-system
638                           (detect-coding-string string t))))
639
640 (defun elpher-preprocess-text-response (string)
641   "Preprocess text selector response contained in STRING.
642 This involes decoding the character representation, and clearing
643 away CRs and any terminating period."
644   (elpher-decode (replace-regexp-in-string "\n\\.\n$" "\n"
645                                            (replace-regexp-in-string "\r" "" string))))
646
647
648 ;;; Network error reporting
649 ;;
650
651 (defun elpher-network-error (address error)
652   "Display ERROR message following unsuccessful negotiation with ADDRESS.
653 ERROR can be either an error object or a string."
654   (elpher-with-clean-buffer
655    (insert (propertize "\n---- ERROR -----\n\n" 'face 'error)
656            "When attempting to retrieve " (elpher-address-to-url address) ":\n"
657            (if (stringp error) error (error-message-string error)) "\n"
658            (propertize "\n----------------\n\n" 'face 'error)
659            "Press 'u' to return to the previous page.")))
660
661
662 ;;; General network communication
663 ;;
664
665 (defvar elpher-network-timer nil
666   "Timer used for network connections.")
667
668 (defvar elpher-use-tls nil
669   "If non-nil, use TLS to communicate with gopher servers.")
670
671 (defvar elpher-client-certificate nil
672   "If non-nil, contains client certificate details to use for TLS connections.")
673
674 (defun elpher-process-cleanup ()
675   "Immediately shut down any extant elpher process and timers."
676   (let ((p (get-process "elpher-process")))
677     (if p (delete-process p)))
678   (if (timerp elpher-network-timer)
679       (cancel-timer elpher-network-timer)))
680
681 (defun elpher-make-network-timer (thunk)
682   "Creates a timer to run the THUNK after `elpher-connection-timeout' seconds.
683 This is just a wraper around `run-at-time' which additionally sets the
684 buffer-local variable `elpher-network-timer' to allow
685 `elpher-process-cleanup' to also clear the timer."
686   (let ((timer (run-at-time elpher-connection-timeout nil thunk)))
687     (setq-local elpher-network-timer timer)
688     timer))
689
690 (defun elpher-get-host-response (address default-port query-string response-processor
691                                          &optional use-tls force-ipv4)
692   "Generic function for retrieving data from ADDRESS.
693
694 When ADDRESS lacks a specific port, DEFAULT-PORT is used instead.
695 QUERY-STRING is a string sent to the host specified by ADDRESS to
696 illicet a response.  This response is passed as an argument to the
697 function RESPONSE-PROCESSOR.
698
699 If non-nil, USE-TLS specifies that the connection is to be made over
700 TLS.  If set to gemini, the certificate verification will be disabled
701 unless `elpher-gemini-TLS-cert-checks' is non-nil.
702
703 If non-nil, FORCE-IPV4 causes the network connection to be made over
704 ipv4 only.  (The default behaviour when this is not set depends on
705 the host operating system and the local network capabilities.)"
706   (if (and use-tls (not (gnutls-available-p)))
707       (error "Use of TLS requires Emacs to be compiled with GNU TLS support")
708     (unless (< (elpher-address-port address) 65536)
709       (error "Cannot establish network connection: port number > 65536"))
710     (when (and (eq use-tls 'gemini) (not elpher-gemini-TLS-cert-checks))
711       (setq-local network-security-level 'low)
712       (setq-local gnutls-verify-error nil))
713     (condition-case nil
714         (let* ((kill-buffer-query-functions nil)
715                (port (elpher-address-port address))
716                (host (elpher-address-host address))
717                (service (if (> port 0) port default-port))
718                (response-string-parts nil)
719                (bytes-received 0)
720                (hkbytes-received 0)
721                (socks (or elpher-socks-always (string-suffix-p ".onion" host)))
722                (gnutls-params (list :type 'gnutls-x509pki
723                                     :hostname host
724                                     :keylist
725                                     (elpher-get-current-keylist address)))
726                (timer (elpher-get-network-timer
727                                    (lambda ()
728                                      (elpher-process-cleanup)
729                                      (cond
730                                         ; Try again with IPv4
731                                       ((not (or force-ipv4 socks))
732                                        (message "Connection timed out.  Retrying with IPv4.")
733                                        (elpher-get-host-response address default-port
734                                                                  query-string
735                                                                  response-processor
736                                                                  use-tls t))
737                                       ((and use-tls
738                                             (not (eq use-tls 'gemini))
739                                             (or elpher-auto-disengage-TLS
740                                                 (y-or-n-p
741                                                  "TLS connetion failed.  Disable TLS mode and retry? ")))
742                                        (setq elpher-use-tls nil)
743                                        (elpher-get-host-response address default-port
744                                                                  query-string
745                                                                  response-processor
746                                                                  nil force-ipv4))
747                                       (t
748                                        (elpher-network-error address "Connection time-out."))))))
749                (proc (if socks (socks-open-network-stream "elpher-process" nil host service)
750                        (make-network-process :name "elpher-process"
751                                              :host host
752                                              :family (and force-ipv4 'ipv4)
753                                              :service service
754                                              :buffer nil
755                                              :nowait t
756                                              :tls-parameters
757                                              (and use-tls
758                                                   (cons 'gnutls-x509pki
759                                                         (apply #'gnutls-boot-parameters
760                                                                gnutls-params)))))))
761           (setq elpher-network-timer timer)
762           (set-process-coding-system proc 'binary 'binary)
763           (set-process-query-on-exit-flag proc nil)
764           (elpher-buffer-message (concat "Connecting to " host "..."
765                                          " (press 'u' to abort)"))
766           (set-process-filter proc
767                               (lambda (_proc string)
768                                 (when timer
769                                   (cancel-timer timer)
770                                   (setq timer nil))
771                                 (setq bytes-received (+ bytes-received (length string)))
772                                 (let ((new-hkbytes-received (/ bytes-received 102400)))
773                                   (when (> new-hkbytes-received hkbytes-received)
774                                     (setq hkbytes-received new-hkbytes-received)
775                                     (elpher-buffer-message
776                                      (concat "("
777                                              (number-to-string (/ hkbytes-received 10.0))
778                                              " MB read)")
779                                      1)))
780                                 (setq response-string-parts
781                                       (cons string response-string-parts))))
782           (set-process-sentinel proc
783                                 (lambda (proc event)
784                                   (when timer
785                                     (cancel-timer timer))
786                                   (condition-case the-error
787                                       (cond
788                                        ((string-prefix-p "open" event)    ; request URL
789                                         (elpher-buffer-message
790                                          (concat "Connected to " host ". Receiving data..."
791                                                  " (press 'u' to abort)"))
792                                         (let ((inhibit-eol-conversion t))
793                                           (process-send-string proc query-string)))
794                                        ((string-prefix-p "deleted" event)) ; do nothing
795                                        ((and (not response-string-parts)
796                                              (not (or elpher-ipv4-always force-ipv4 socks)))
797                                         ; Try again with IPv4
798                                         (message "Connection failed. Retrying with IPv4.")
799                                         (elpher-get-host-response address default-port
800                                                                   query-string
801                                                                   response-processor
802                                                                   use-tls t))
803                                        (response-string-parts
804                                         (elpher-with-clean-buffer
805                                          (insert "Data received.  Rendering..."))
806                                         (funcall response-processor
807                                                  (apply #'concat (reverse response-string-parts)))
808                                         (elpher-restore-pos))
809                                        (t
810                                         (error "No response from server")))
811                                     (error
812                                      (elpher-network-error address the-error)))))
813           (when socks
814             (if use-tls (apply #'gnutls-negotiate :process proc gnutls-params))
815             (funcall (process-sentinel proc) proc "open\n")))
816       (error
817        (elpher-process-cleanup)
818        (error "Error initiating connection to server")))))
819
820
821 ;;; Client-side TLS Certificate Management
822 ;;
823
824 (defun elpher-generate-certificate (common-name key-file cert-file &optional temporary)
825   "Generate a key and a self-signed client TLS certificate using openssl.
826
827 The Common Name field of the certificate is set to COMMON-NAME.  The
828 arguments KEY-FILE and CERT-FILE should contain the absolute paths of
829 the key and certificate files to write.
830
831 If TEMPORARY is non-nil, the certificate will be given an exporation
832 period of one day, and the key and certificate files will be deleted
833 when the certificate is no longer needed for the current session.
834
835 Otherwise, the certificate will be given a 100 year expiration period
836 and the files will not be deleted.
837
838 The function returns a list containing the current host name, the
839 temporary flag, and the key and cert file names in the form required
840 by `gnutls-boot-parameters`."
841   (let ((exp-key-file (expand-file-name key-file))
842         (exp-cert-file (expand-file-name cert-file)))
843     (condition-case nil
844         (progn
845           (call-process elpher-openssl-command nil nil nil
846                         "req" "-x509" "-newkey" "rsa:2048"
847                         "-days" (if temporary "1" "36500")
848                         "-nodes"
849                         "-subj" (concat "/CN=" common-name)
850                         "-keyout" exp-key-file
851                         "-out" exp-cert-file)
852           (list (elpher-address-host (elpher-page-address elpher-current-page))
853                 temporary exp-key-file exp-cert-file))
854       (error
855        (message "Check that openssl is installed, or customize `elpher-openssl-command`.")
856        (error "Program 'openssl', required for certificate generation, not found")))))
857
858 (defun elpher-generate-throwaway-certificate ()
859   "Generate and return details of a throwaway certificate.
860 The key and certificate files will be deleted when they are no
861 longer needed for this session."
862   (let* ((file-base (make-temp-name "elpher"))
863          (key-file (concat temporary-file-directory file-base ".key"))
864          (cert-file (concat temporary-file-directory file-base ".crt")))
865     (elpher-generate-certificate file-base key-file cert-file t)))
866
867 (defun elpher-generate-persistent-certificate (file-base common-name)
868   "Generate and return details of a persistent certificate.
869 The argument FILE-BASE is used as the base for the key and certificate
870 files, while COMMON-NAME specifies the common name field of the
871 certificate.
872
873 The key and certificate files are written to in `elpher-certificate-directory'."
874   (let* ((key-file (concat elpher-certificate-directory file-base ".key"))
875          (cert-file (concat elpher-certificate-directory file-base ".crt")))
876     (elpher-generate-certificate common-name key-file cert-file)))
877
878 (defun elpher-get-existing-certificate (file-base)
879   "Return a certificate object corresponding to an existing certificate.
880 It is assumed that the key files FILE-BASE.key and FILE-BASE.crt exist in
881 the directory `elpher-certificate-directory'."
882   (let* ((key-file (concat elpher-certificate-directory file-base ".key"))
883          (cert-file (concat elpher-certificate-directory file-base ".crt")))
884     (list (elpher-address-host (elpher-page-address elpher-current-page))
885           nil
886           (expand-file-name key-file)
887           (expand-file-name cert-file))))
888
889 (defun elpher-install-and-use-existing-certificate (key-file-src cert-file-src file-base)
890   "Install a key+certificate file pair in `elpher-certificate-directory'.
891 The strings KEY-FILE-SRC and CERT-FILE-SRC are the existing key and
892 certificate files to install.  The argument FILE-BASE is used as the
893 base for the installed key and certificate files."
894   (let* ((key-file (concat elpher-certificate-directory file-base ".key"))
895          (cert-file (concat elpher-certificate-directory file-base ".crt")))
896     (if (or (file-exists-p key-file)
897             (file-exists-p cert-file))
898         (error "A certificate with base name %s is already installed" file-base))
899     (copy-file key-file-src key-file)
900     (copy-file cert-file-src cert-file)
901     (list (elpher-address-host (elpher-page-address elpher-current-page))
902           nil
903           (expand-file-name key-file)
904           (expand-file-name cert-file))))
905
906 (defun elpher-list-existing-certificates ()
907   "Return a list of the persistent certificates in `elpher-certificate-directory'."
908   (unless (file-directory-p elpher-certificate-directory)
909     (make-directory elpher-certificate-directory))
910   (mapcar
911    (lambda (file)
912      (file-name-sans-extension file))
913    (directory-files elpher-certificate-directory nil "\\.key$")))
914
915 (defun elpher-forget-current-certificate ()
916   "Causes any current certificate to be forgotten.)
917 In the case of throwaway certificates, the key and certificate files
918 are also deleted."
919   (interactive)
920   (when elpher-client-certificate
921     (unless (and (called-interactively-p 'any)
922                  (not (y-or-n-p (concat "Really forget client certificate? "
923                                         "(Throwaway certificates will be deleted.)"))))
924       (when (cadr elpher-client-certificate)
925         (delete-file (elt elpher-client-certificate 2))
926         (delete-file (elt elpher-client-certificate 3)))
927       (setq elpher-client-certificate nil)
928       (if (called-interactively-p 'any)
929           (message "Client certificate forgotten.")))))
930
931 (defun elpher-get-current-keylist (address)
932   "Retrieve the `gnutls-boot-parameters'-compatable keylist.
933
934 This is obtained from the client certificate described by
935 `elpher-current-certificate', if one is available and the host for
936 that certificate matches the host in ADDRESS.
937
938 If `elpher-current-certificate' is non-nil, and its host name doesn't
939 match that of ADDRESS, the certificate is forgotten."
940   (if elpher-client-certificate
941       (if (string= (car elpher-client-certificate)
942                    (elpher-address-host address))
943           (list (cddr elpher-client-certificate))
944         (elpher-forget-current-certificate)
945         (message "Disabling client certificate for new host")
946         nil)
947     nil))
948
949
950 ;;; Gopher selector retrieval
951 ;;
952
953 (defun elpher-get-gopher-response (address renderer)
954   "Get response string from gopher server at ADDRESS and render using RENDERER."
955   (elpher-get-host-response address 70
956                             (concat (elpher-gopher-address-selector address) "\r\n")
957                             renderer
958                             (or (string= (elpher-address-protocol address) "gophers")
959                                 elpher-use-tls)))
960
961 (defun elpher-get-gopher-page (renderer)
962   "Getter function for gopher pages.
963 The RENDERER procedure is used to display the contents of the page
964 once they are retrieved from the gopher server."
965   (let* ((address (elpher-page-address elpher-current-page))
966          (content (elpher-get-cached-content address)))
967     (if (and content (funcall renderer nil))
968         (elpher-with-clean-buffer
969          (insert content)
970          (elpher-restore-pos))
971       (elpher-with-clean-buffer
972        (insert "LOADING... (use 'u' to cancel)\n"))
973       (condition-case the-error
974           (elpher-get-gopher-response address renderer)
975         (error
976          (elpher-network-error address the-error))))))
977
978 ;; Index rendering
979
980 (defun elpher-insert-index (string)
981   "Insert the index corresponding to STRING into the current buffer."
982   ;; Should be able to split directly on CRLF, but some non-conformant
983   ;; LF-only servers sadly exist, hence the following.
984   (let ((str-processed (elpher-preprocess-text-response string)))
985     (dolist (line (split-string str-processed "\n"))
986       (ignore-errors
987         (unless (= (length line) 0)
988           (let* ((type (elt line 0))
989                  (fields (split-string (substring line 1) "\t"))
990                  (display-string (elt fields 0))
991                  (selector (elt fields 1))
992                  (host (elt fields 2))
993                  (port (if (elt fields 3)
994                            (string-to-number (elt fields 3))
995                          nil))
996                  (address (elpher-make-gopher-address type selector host port)))
997             (elpher-insert-index-record display-string address)))))))
998
999 (defun elpher-insert-margin (&optional type-name)
1000   "Insert index margin, optionally containing the TYPE-NAME, into the current buffer."
1001   (if type-name
1002       (progn
1003         (insert (format (concat "%" (number-to-string (- elpher-margin-width 1)) "s")
1004                         (concat
1005                          (propertize "[" 'face 'elpher-margin-brackets)
1006                          (propertize type-name 'face 'elpher-margin-key)
1007                          (propertize "]" 'face 'elpher-margin-brackets))))
1008         (insert " "))
1009     (insert (make-string elpher-margin-width ?\s))))
1010
1011 (defun elpher--page-button-help (_window buffer pos)
1012   "Function called by Emacs to generate mouse-over text.
1013 The arguments specify the BUFFER and the POS within the buffer of the item
1014 for which help is required.  The function returns the help to be
1015 displayed.  The _WINDOW argument is currently unused."
1016   (with-current-buffer buffer
1017     (let ((button (button-at pos)))
1018       (when button
1019         (let* ((page (button-get button 'elpher-page))
1020                (address (elpher-page-address page)))
1021           (format "mouse-1, RET: open '%s'" (if (elpher-address-special-p address)
1022                                                 address
1023                                               (elpher-address-to-url address))))))))
1024
1025 (defun elpher-insert-index-record (display-string &optional address)
1026   "Function to insert an index record into the current buffer.
1027 The contents of the record are dictated by DISPLAY-STRING and ADDRESS.
1028 If ADDRESS is not supplied or nil the record is rendered as an
1029 'information' line."
1030   (let* ((type (if address (elpher-address-type address) nil))
1031          (type-map-entry (cdr (assoc type elpher-type-map))))
1032     (if type-map-entry
1033         (let* ((margin-code (elt type-map-entry 2))
1034                (face (elt type-map-entry 3))
1035                (filtered-display-string (elpher-color-filter-apply display-string))
1036                (page (elpher-make-page filtered-display-string address)))
1037           (elpher-insert-margin margin-code)
1038           (insert-text-button filtered-display-string
1039                               'face face
1040                               'elpher-page page
1041                               'action #'elpher-click-link
1042                               'follow-link t
1043                               'help-echo #'elpher--page-button-help))
1044       (pcase type
1045         ('nil ;; Information
1046          (elpher-insert-margin)
1047          (let ((propertized-display-string
1048                 (propertize display-string 'face 'elpher-info)))
1049            (insert (elpher-process-text-for-display propertized-display-string))))
1050         (`(gopher ,selector-type) ;; Unknown
1051          (elpher-insert-margin (concat (char-to-string selector-type) "?"))
1052          (insert (propertize display-string
1053                              'face 'elpher-unknown)))))
1054     (insert "\n")))
1055
1056 (defun elpher-click-link (button)
1057   "Function called when the gopher link BUTTON is activated (via mouse or keypress)."
1058   (let ((page (button-get button 'elpher-page)))
1059     (elpher-visit-page page)))
1060
1061 (defun elpher-render-index (data &optional _mime-type-string)
1062   "Render DATA as an index.  MIME-TYPE-STRING is unused."
1063   (elpher-with-clean-buffer
1064    (if (not data)
1065        t
1066      (elpher-insert-index data)
1067      (elpher-cache-content (elpher-page-address elpher-current-page)
1068                            (buffer-string)))))
1069
1070 ;; Text rendering
1071
1072 (defconst elpher-url-regex
1073   "\\([a-zA-Z]+\\)://\\([a-zA-Z0-9.-]*[a-zA-Z0-9-]\\|\\[[a-zA-Z0-9:]+\\]\\)\\(:[0-9]+\\)?\\(/\\([0-9a-zA-Z_~?/@|:.%#=&-]*[0-9a-zA-Z_~?/@|#-]\\)?\\)?"
1074   "Regexp used to locate and buttonify URLs in text files loaded by elpher.")
1075
1076 (defun elpher-buttonify-urls (string)
1077   "Turn substrings which look like urls in STRING into clickable buttons."
1078   (with-temp-buffer
1079     (insert string)
1080     (goto-char (point-min))
1081     (while (re-search-forward elpher-url-regex nil t)
1082       (let ((page (elpher-make-page (substring-no-properties (match-string 0))
1083                                     (elpher-address-from-url (match-string 0)))))
1084         (make-text-button (match-beginning 0)
1085                           (match-end 0)
1086                           'elpher-page  page
1087                           'action #'elpher-click-link
1088                           'follow-link t
1089                           'help-echo #'elpher--page-button-help
1090                           'face 'button)))
1091     (buffer-string)))
1092
1093 (defun elpher-process-text-for-display (string)
1094   "Perform any desired processing of STRING prior to display as text.
1095 Currently includes buttonifying URLs and processing ANSI escape codes."
1096   (elpher-buttonify-urls (if elpher-filter-ansi-from-text
1097                              (elpher-color-filter-apply string)
1098                            (elpher-color-apply string))))
1099
1100 (defun elpher-render-text (data &optional _mime-type-string)
1101   "Render DATA as text.  MIME-TYPE-STRING is unused."
1102   (elpher-with-clean-buffer
1103    (if (not data)
1104        t
1105      (insert (elpher-process-text-for-display (elpher-preprocess-text-response data)))
1106      (elpher-cache-content
1107       (elpher-page-address elpher-current-page)
1108       (buffer-string)))))
1109
1110 ;; Image retrieval
1111
1112 (defun elpher-render-image (data &optional _mime-type-string)
1113   "Display DATA as image.  MIME-TYPE-STRING is unused."
1114   (if (not data)
1115       nil
1116     (if (display-images-p)
1117         (progn
1118           (let ((image (create-image
1119                         data
1120                         nil t)))
1121             (elpher-with-clean-buffer
1122              (insert-image image)
1123              (elpher-restore-pos))))
1124       (elpher-render-download data))))
1125
1126 ;; Search retrieval and rendering
1127
1128 (defun elpher-get-gopher-query-page (renderer)
1129   "Getter for gopher addresses requiring input.
1130 The response is rendered using the rendering function RENDERER."
1131   (let* ((address (elpher-page-address elpher-current-page))
1132          (content (elpher-get-cached-content address))
1133          (aborted t))
1134     (if (and content (funcall renderer nil))
1135         (elpher-with-clean-buffer
1136          (insert content)
1137          (elpher-restore-pos)
1138          (message "Displaying cached search results.  Reload to perform a new search."))
1139       (unwind-protect
1140           (let* ((query-string (read-string "Query: "))
1141                  (query-selector (concat (elpher-gopher-address-selector address) "\t" query-string))
1142                  (search-address (elpher-make-gopher-address ?1
1143                                                              query-selector
1144                                                              (elpher-address-host address)
1145                                                              (elpher-address-port address)
1146                                                              (equal (elpher-address-type address) "gophers"))))
1147             (setq aborted nil)
1148
1149             (elpher-with-clean-buffer
1150              (insert "LOADING RESULTS... (use 'u' to cancel)"))
1151             (elpher-get-gopher-response search-address renderer))
1152         (if aborted
1153             (elpher-visit-previous-page))))))
1154
1155 ;; Raw server response rendering
1156
1157 (defun elpher-render-raw (data &optional mime-type-string)
1158   "Display raw DATA in buffer.  MIME-TYPE-STRING is also displayed if provided."
1159   (if (not data)
1160       nil
1161     (elpher-with-clean-buffer
1162      (when mime-type-string
1163        (insert "MIME type specified by server: '" mime-type-string "'\n"))
1164      (insert data)
1165      (goto-char (point-min)))
1166     (message "Displaying raw server response.  Reload or redraw to return to standard view.")))
1167
1168 ;; File save "rendering"
1169
1170 (defun elpher-render-download (data &optional _mime-type-string)
1171   "Save DATA to file.  MIME-TYPE-STRING is unused."
1172   (if (not data)
1173       nil
1174     (let* ((address (elpher-page-address elpher-current-page))
1175            (selector (if (elpher-address-gopher-p address)
1176                          (elpher-gopher-address-selector address)
1177                        (elpher-address-filename address))))
1178       (elpher-visit-previous-page) ; Do first in case of non-local exits.
1179       (let* ((filename-proposal (file-name-nondirectory selector))
1180              (filename (read-file-name "Download complete. Save file as: "
1181                                        nil nil nil
1182                                        (if (> (length filename-proposal) 0)
1183                                            filename-proposal
1184                                          "download.file"))))
1185         (let ((coding-system-for-write 'binary))
1186           (with-temp-file filename
1187             (insert data)))
1188         (message (format "Saved to file %s." filename))))))
1189
1190 ;; HTML rendering
1191
1192 (defun elpher-render-html (data &optional _mime-type-string)
1193   "Render DATA as HTML using shr.  MIME-TYPE-STRING is unused."
1194   (elpher-with-clean-buffer
1195    (if (not data)
1196        t
1197      (let ((dom (with-temp-buffer
1198                   (insert data)
1199                   (libxml-parse-html-region (point-min) (point-max)))))
1200        (shr-insert-document dom)))))
1201
1202 ;; Gemini page retrieval
1203
1204 (defvar elpher-gemini-redirect-chain)
1205
1206 (defun elpher-get-gemini-response (address renderer)
1207   "Get response string from gemini server at ADDRESS and render using RENDERER."
1208   (elpher-get-host-response address 1965
1209                             (concat (elpher-address-to-url address) "\r\n")
1210                             (lambda (response-string)
1211                               (elpher-process-gemini-response response-string renderer))
1212                             'gemini))
1213
1214 (defun elpher-parse-gemini-response (response)
1215   "Parse the RESPONSE string and return a list of components.
1216 The list is of the form (code meta body).  A response of nil implies
1217 that the response was malformed."
1218   (let ((header-end-idx (string-match "\r\n" response)))
1219     (if header-end-idx
1220         (let ((header (string-trim (substring response 0 header-end-idx)))
1221               (body (substring response (+ header-end-idx 2))))
1222           (if (>= (length header) 2)
1223               (let ((code (substring header 0 2))
1224                     (meta (string-trim (substring header 2))))
1225                 (list code meta body))
1226             (error "Malformed response: No response status found in header %s" header)))
1227       (error "Malformed response: No CRLF-delimited header found in response %s" response))))
1228
1229 (defun elpher-process-gemini-response (response-string renderer)
1230   "Process the gemini response RESPONSE-STRING and pass the result to RENDERER."
1231   (let ((response-components (elpher-parse-gemini-response response-string)))
1232     (let ((response-code (elt response-components 0))
1233           (response-meta (elt response-components 1))
1234           (response-body (elt response-components 2)))
1235       (pcase (elt response-code 0)
1236         (?1 ; Input required
1237          (elpher-with-clean-buffer
1238           (insert "Gemini server is requesting input."))
1239          (let* ((query-string
1240                  (if (eq (elt response-code 1) ?1)
1241                      (read-passwd (concat response-meta ": "))
1242                    (read-string (concat response-meta ": "))))
1243                 (query-address (seq-copy (elpher-page-address elpher-current-page)))
1244                 (old-fname (url-filename query-address)))
1245            (setf (url-filename query-address)
1246                  (concat old-fname "?" (url-build-query-string `((,query-string)))))
1247            (elpher-get-gemini-response query-address renderer)))
1248         (?2 ; Normal response
1249          (funcall renderer response-body response-meta))
1250         (?3 ; Redirect
1251          (message "Following redirect to %s" response-meta)
1252          (if (>= (length elpher-gemini-redirect-chain) 5)
1253              (error "More than 5 consecutive redirects followed"))
1254          (let ((redirect-address (elpher-address-from-gemini-url response-meta)))
1255            (if (member redirect-address elpher-gemini-redirect-chain)
1256                (error "Redirect loop detected"))
1257            (if (not (string= (elpher-address-protocol redirect-address)
1258                              "gemini"))
1259                (error "Server tried to automatically redirect to non-gemini URL: %s"
1260                       response-meta))
1261            (elpher-page-set-address elpher-current-page redirect-address)
1262            (add-to-list 'elpher-gemini-redirect-chain redirect-address)
1263            (elpher-get-gemini-response redirect-address renderer)))
1264         (?4 ; Temporary failure
1265          (error "Gemini server reports TEMPORARY FAILURE for this request: %s %s"
1266                 response-code response-meta))
1267         (?5 ; Permanent failure
1268          (error "Gemini server reports PERMANENT FAILURE for this request: %s %s"
1269                 response-code response-meta))
1270         (?6 ; Client certificate required
1271          (elpher-with-clean-buffer
1272           (if elpher-client-certificate
1273               (insert "Gemini server does not recognise the provided TLS certificate:\n\n")
1274             (insert "Gemini server is requesting a valid TLS certificate:\n\n"))
1275           (auto-fill-mode 1)
1276           (elpher-gemini-insert-text response-meta))
1277          (let ((chosen-certificate (elpher-choose-client-certificate)))
1278            (unless chosen-certificate
1279              (error "Gemini server requires a client certificate and none was provided"))
1280            (setq elpher-client-certificate chosen-certificate))
1281          (elpher-with-clean-buffer)
1282          (elpher-get-gemini-response (elpher-page-address elpher-current-page) renderer))
1283         (_other
1284          (error "Gemini server response unknown: %s %s"
1285                 response-code response-meta))))))
1286
1287 (defun elpher--read-answer-polyfill (question answers)
1288   "Polyfill for `read-answer' in Emacs 26.1.
1289 QUESTION is a string containing a question, and ANSWERS
1290 is a list of possible answers."
1291     (completing-read question (mapcar 'identity answers)))
1292
1293 (if (fboundp 'read-answer)
1294     (defalias 'elpher-read-answer 'read-answer)
1295   (defalias 'elpher-read-answer 'elpher--read-answer-polyfill))
1296
1297 (defun elpher-choose-client-certificate ()
1298   "Prompt for a client certificate to use to establish a TLS connection."
1299   (let* ((read-answer-short t))
1300     (pcase (read-answer "What do you want to do? "
1301                         '(("throwaway" ?t
1302                            "generate and use throw-away certificate")
1303                           ("persistent" ?p
1304                            "generate new or use existing persistent certificate")
1305                           ("abort" ?a
1306                            "stop immediately")))
1307       ("throwaway"
1308        (setq elpher-client-certificate (elpher-generate-throwaway-certificate)))
1309       ("persistent"
1310        (let* ((existing-certificates (elpher-list-existing-certificates))
1311               (file-base (completing-read
1312                           "Nickname for new or existing certificate (autocompletes, empty response aborts): "
1313                           existing-certificates)))
1314          (if (string-empty-p (string-trim file-base))
1315              nil
1316            (if (member file-base existing-certificates)
1317                (setq elpher-client-certificate
1318                      (elpher-get-existing-certificate file-base))
1319              (pcase (read-answer "Generate new certificate or install externally-generated one? "
1320                                  '(("new" ?n
1321                                     "generate new certificate")
1322                                    ("install" ?i
1323                                     "install existing certificate")
1324                                    ("abort" ?a
1325                                     "stop immediately")))
1326                ("new"
1327                 (let ((common-name (read-string "Common Name field for new certificate: "
1328                                                 file-base)))
1329                   (message "New key and self-signed certificate written to %s"
1330                            elpher-certificate-directory)
1331                   (elpher-generate-persistent-certificate file-base common-name)))
1332                ("install"
1333                 (let* ((cert-file (read-file-name "Certificate file: " nil nil t))
1334                        (key-file (read-file-name "Key file: " nil nil t)))
1335                   (message "Key and certificate installed in %s for future use"
1336                            elpher-certificate-directory)
1337                   (elpher-install-and-use-existing-certificate key-file
1338                                                                cert-file
1339                                                                file-base)))
1340                ("abort" nil))))))
1341       ("abort" nil))))
1342
1343 (defun elpher-get-gemini-page (renderer)
1344   "Getter which retrieves and renders a Gemini page and renders it using RENDERER."
1345   (let* ((address (elpher-page-address elpher-current-page))
1346          (content (elpher-get-cached-content address)))
1347     (condition-case the-error
1348         (if (and content (funcall renderer nil))
1349             (elpher-with-clean-buffer
1350              (insert content)
1351              (elpher-restore-pos))
1352           (elpher-with-clean-buffer
1353            (insert "LOADING GEMINI... (use 'u' to cancel)\n"))
1354           (setq elpher-gemini-redirect-chain nil)
1355           (elpher-get-gemini-response address renderer))
1356       (error
1357        (elpher-network-error address the-error)))))
1358
1359 (defun elpher-render-gemini (body &optional mime-type-string)
1360   "Render gemini response BODY with rendering MIME-TYPE-STRING."
1361   (if (not body)
1362       t
1363     (let* ((mime-type-string* (if (or (not mime-type-string)
1364                                       (string-empty-p mime-type-string))
1365                                   "text/gemini; charset=utf-8"
1366                                 mime-type-string))
1367            (mime-type-split (split-string mime-type-string* ";" t))
1368            (mime-type (string-trim (car mime-type-split)))
1369            (parameters (mapcar (lambda (s)
1370                                  (let ((key-val (split-string s "=")))
1371                                    (list (downcase (string-trim (car key-val)))
1372                                          (downcase (string-trim (cadr key-val))))))
1373                                (cdr mime-type-split))))
1374       (when (string-prefix-p "text/" mime-type)
1375         (setq body (decode-coding-string
1376                     body
1377                     (if (assoc "charset" parameters)
1378                         (intern (cadr (assoc "charset" parameters)))
1379                       'utf-8)))
1380         (setq body (replace-regexp-in-string "\r" "" body)))
1381       (pcase mime-type
1382         ((or "text/gemini" "")
1383          (elpher-render-gemini-map body parameters))
1384         ("text/html"
1385          (elpher-render-html body))
1386         ((pred (string-prefix-p "text/"))
1387          (elpher-render-gemini-plain-text body parameters))
1388         ((pred (string-prefix-p "image/"))
1389          (elpher-render-image body))
1390         (_other
1391          (elpher-render-download body))))))
1392
1393 (defun elpher-gemini-get-link-url (link-line)
1394   "Extract the url portion of LINK-LINE, a gemini map file link line.
1395 Returns nil in the event that the contents of the line following the
1396 => prefix are empty."
1397   (let ((l (split-string (substring link-line 2))))
1398     (if l
1399         (string-trim (elt l 0))
1400       nil)))
1401
1402 (defun elpher-gemini-get-link-display-string (link-line)
1403   "Extract the display string portion of LINK-LINE, a gemini map file link line.
1404 Returns the url portion in the event that the display-string portion is empty."
1405   (let* ((rest (string-trim (elt (split-string link-line "=>") 1)))
1406          (idx (string-match "[ \t]" rest)))
1407     (string-trim (if idx
1408                      (substring rest (+ idx 1))
1409                    rest))))
1410
1411 (defun elpher-collapse-dot-sequences (filename)
1412   "Collapse dot sequences in FILENAME.
1413 For instance, the filename /a/b/../c/./d will reduce to /a/c/d"
1414   (let* ((path (split-string filename "/"))
1415          (path-reversed-normalized
1416           (seq-reduce (lambda (a b)
1417                         (cond ((and a (equal b "..") (cdr a)))
1418                               ((and (not a) (equal b "..")) a) ;leading .. are dropped
1419                               ((equal b ".") a)
1420                               (t (cons b a))))
1421                       path nil)))
1422     (string-join (reverse path-reversed-normalized) "/")))
1423
1424 (defun elpher-address-from-gemini-url (url)
1425   "Extract address from URL with defaults as per gemini map files.
1426 While there's obviously some redundancy here between this function and
1427 `elpher-address-from-url', gemini map file URLs require enough special
1428 treatment that a separate function is warranted."
1429   (let ((address (url-generic-parse-url url))
1430         (current-address (elpher-page-address elpher-current-page)))
1431     (unless (and (url-type address) (not (url-fullness address))) ;avoid mangling mailto: urls
1432       (setf (url-fullness address) t)
1433       (if (url-host address) ;if there is an explicit host, filenames are absolute
1434           (if (string-empty-p (url-filename address))
1435               (setf (url-filename address) "/")) ;ensure empty filename is marked as absolute
1436         (setf (url-host address) (url-host current-address))
1437         (setf (url-port address) (url-port current-address))
1438         (unless (string-prefix-p "/" (url-filename address)) ;deal with relative links
1439           (setf (url-filename address)
1440                 (concat (file-name-directory (url-filename current-address))
1441                         (url-filename address)))))
1442       (unless (url-type address)
1443         (setf (url-type address) "gemini"))
1444       (when (equal (url-type address) "gemini")
1445         (setf (url-filename address)
1446               (elpher-collapse-dot-sequences (url-filename address)))))
1447     (elpher-remove-redundant-ports address)))
1448
1449 (defun elpher-gemini-insert-link (link-line)
1450   "Insert link described by LINK-LINE into a text/gemini document."
1451   (let* ((url (elpher-gemini-get-link-url link-line))
1452          (display-string (elpher-gemini-get-link-display-string link-line))
1453          (address (elpher-address-from-gemini-url url))
1454          (type (if address (elpher-address-type address) nil))
1455          (type-map-entry (cdr (assoc type elpher-type-map))))
1456     (when display-string
1457       (insert elpher-gemini-link-string)
1458       (if type-map-entry
1459           (let* ((face (elt type-map-entry 3))
1460                  (filtered-display-string (elpher-color-filter-apply display-string))
1461                  (page (elpher-make-page filtered-display-string address)))
1462             (insert-text-button filtered-display-string
1463                                 'face face
1464                                 'elpher-page page
1465                                 'action #'elpher-click-link
1466                                 'follow-link t
1467                                 'help-echo #'elpher--page-button-help))
1468         (insert (propertize display-string 'face 'elpher-unknown)))
1469       (insert "\n"))))
1470
1471 (defvar elpher--gemini-page-headings nil
1472   "List of headings on the page.")
1473
1474 (defun elpher-gemini-insert-header (header-line)
1475   "Insert header described by HEADER-LINE into a text/gemini document.
1476 The gemini map file line describing the header is given
1477 by HEADER-LINE."
1478   (when (string-match "^\\(#+\\)[ \t]*" header-line)
1479     (let* ((level (length (match-string 1 header-line)))
1480            (header (substring header-line (match-end 0)))
1481            (face (pcase level
1482                    (1 'elpher-gemini-heading1)
1483                    (2 'elpher-gemini-heading2)
1484                    (3 'elpher-gemini-heading3)
1485                    (_ 'default)))
1486            (fill-column (if (display-graphic-p)
1487                             (/ (* fill-column
1488                                   (font-get (font-spec :name (face-font 'default)) :size))
1489                                (font-get (font-spec :name (face-font face)) :size)) fill-column)))
1490       (setq elpher--gemini-page-headings (cons (cons header (point))
1491                                                elpher--gemini-page-headings))
1492       (unless (display-graphic-p)
1493         (insert (make-string level ?#) " "))
1494       (insert (propertize header 'face face))
1495       (newline))))
1496
1497 (defun elpher-gemini-insert-text (text-line)
1498   "Insert a plain non-preformatted TEXT-LINE into a text/gemini document.
1499 This function uses Emacs' auto-fill to wrap text sensibly to a maximum
1500 width defined by `elpher-gemini-max-fill-width'."
1501   (string-match "\\(^[ \t]*\\)\\(\\*[ \t]+\\|>[ \t]*\\)?" text-line)
1502   (let* ((line-prefix (match-string 2 text-line))
1503          (processed-text-line
1504           (if line-prefix
1505               (cond ((string-prefix-p "*" line-prefix)
1506                      (concat
1507                       (replace-regexp-in-string "\\*"
1508                                                 elpher-gemini-bullet-string
1509                                                 (match-string 0 text-line))
1510                       (substring text-line (match-end 0))))
1511                     ((string-prefix-p ">" line-prefix)
1512                      (propertize text-line 'face 'elpher-gemini-quoted))
1513                     (t text-line))
1514             text-line))
1515          (adaptive-fill-mode t)
1516          ;; fill-prefix is important for adaptive-fill-mode: without
1517          ;; it, multi-line list items are not indented correct
1518          (fill-prefix (if (match-string 2 text-line)
1519                           (replace-regexp-in-string "[>\*]" " " (match-string 0 text-line))
1520                         nil)))
1521     (insert (elpher-process-text-for-display processed-text-line))
1522     (newline)))
1523
1524 (defun elpher-render-gemini-map (data _parameters)
1525   "Render DATA as a gemini map file, PARAMETERS is currently unused."
1526   (elpher-with-clean-buffer
1527    (setq elpher--gemini-page-headings nil)
1528    (let ((preformatted nil))
1529      (auto-fill-mode 1)
1530      (setq-local fill-column (min (window-width) elpher-gemini-max-fill-width))
1531      (dolist (line (split-string data "\n"))
1532        (cond
1533         ((string-prefix-p "```" line) (setq preformatted (not preformatted)))
1534         (preformatted (insert (elpher-process-text-for-display
1535                                (propertize line 'face 'elpher-gemini-preformatted))
1536                               "\n"))
1537         ((string-prefix-p "=>" line)
1538          (elpher-gemini-insert-link line))
1539         ((string-prefix-p "#" line) (elpher-gemini-insert-header line))
1540         (t (elpher-gemini-insert-text line)))))
1541    (setq elpher--gemini-page-headings (nreverse elpher--gemini-page-headings))
1542    (elpher-cache-content
1543     (elpher-page-address elpher-current-page)
1544     (buffer-string))))
1545
1546 (defun elpher-render-gemini-plain-text (data _parameters)
1547   "Render DATA as plain text file.  PARAMETERS is currently unused."
1548   (elpher-with-clean-buffer
1549    (insert (elpher-process-text-for-display data))
1550    (elpher-cache-content
1551     (elpher-page-address elpher-current-page)
1552     (buffer-string))))
1553
1554
1555 ;; Finger page connection
1556
1557 (defun elpher-get-finger-page (renderer)
1558   "Opens a finger connection to the current page address.
1559 The result is rendered using RENDERER."
1560   (let* ((address (elpher-page-address elpher-current-page))
1561          (content (elpher-get-cached-content address)))
1562     (if (and content (funcall renderer nil))
1563         (elpher-with-clean-buffer
1564          (insert content)
1565          (elpher-restore-pos))
1566       (elpher-with-clean-buffer
1567        (insert "LOADING... (use 'u' to cancel)\n"))
1568       (condition-case the-error
1569           (let* ((kill-buffer-query-functions nil)
1570                  (user (let ((filename (elpher-address-filename address)))
1571                          (if (> (length filename) 1)
1572                              (substring filename 1)
1573                            (elpher-address-user address)))))
1574             (elpher-get-host-response address 79
1575                                       (concat user "\r\n")
1576                                       renderer))
1577         (error
1578          (elpher-network-error address the-error))))))
1579
1580
1581 ;; Telnet page connection
1582
1583 (defun elpher-get-telnet-page (renderer)
1584   "Opens a telnet connection to the current page address (RENDERER must be nil)."
1585   (when renderer
1586     (elpher-visit-previous-page)
1587     (error "Command not supported for telnet URLs"))
1588   (let* ((address (elpher-page-address elpher-current-page))
1589          (host (elpher-address-host address))
1590          (port (elpher-address-port address)))
1591     (elpher-visit-previous-page)
1592     (if (> port 0)
1593         (telnet host port)
1594       (telnet host))))
1595
1596
1597 ;; Other URL page opening
1598
1599 (defun elpher-get-other-url-page (renderer)
1600   "Getter which attempts to open the URL specified by the current page (RENDERER must be nil)."
1601   (when renderer
1602     (elpher-visit-previous-page)
1603     (error "Command not supported for general URLs"))
1604   (let* ((address (elpher-page-address elpher-current-page))
1605          (url (elpher-address-to-url address)))
1606     (progn
1607       (elpher-visit-previous-page) ; Do first in case of non-local exits.
1608       (message "Opening URL...")
1609       (if elpher-open-urls-with-eww
1610           (browse-web url)
1611         (browse-url url)))))
1612
1613
1614 ;; Start page retrieval
1615
1616 (defun elpher-get-start-page (renderer)
1617   "Getter which displays the start page (RENDERER must be nil)."
1618   (when renderer
1619     (elpher-visit-previous-page)
1620     (error "Command not supported for start page"))
1621   (elpher-with-clean-buffer
1622    (insert "     --------------------------------------------\n"
1623            "           Elpher Gopher and Gemini Client       \n"
1624            "                   version " elpher-version "\n"
1625            "     --------------------------------------------\n"
1626            "\n"
1627            "Default bindings:\n"
1628            "\n"
1629            " - TAB/Shift-TAB: next/prev item on current page\n"
1630            " - RET/mouse-1: open item under cursor\n"
1631            " - m: select an item on current page by name (autocompletes)\n"
1632            " - u/mouse-3/U: return to previous page or to the start page\n"
1633            " - g: go to a particular address (gopher, gemini, finger)\n"
1634            " - o/O: open a different address selector or the root menu of the current server\n"
1635            " - d/D: download item under cursor or current page\n"
1636            " - i/I: info on item under cursor or current page\n"
1637            " - c/C: copy URL representation of item under cursor or current page\n"
1638            " - a/A: bookmark the item under cursor or current page\n"
1639            " - B: list all bookmarks\n"
1640            " - s/S: show current history stack or all previously visted pages\n"
1641            " - r: redraw current page (using cached contents if available)\n"
1642            " - R: reload current page (regenerates cache)\n"
1643            " - !: set character coding system for gopher (default is to autodetect)\n"
1644            " - T: toggle TLS gopher mode\n"
1645            " - F: forget/discard current TLS client certificate\n"
1646            " - .: display the raw server response for the current page\n"
1647            "\n"
1648            "Start your exploration of gopher space and gemini:\n")
1649    (elpher-insert-index-record "Floodgap Systems Gopher Server"
1650                                (elpher-make-gopher-address ?1 "" "gopher.floodgap.com" 70))
1651    (elpher-insert-index-record "Project Gemini home page"
1652                                (elpher-address-from-url "gemini://gemini.circumlunar.space/"))
1653    (insert "\n"
1654            "Alternatively, select a search engine and enter some search terms:\n")
1655    (elpher-insert-index-record "Gopher Search Engine (Veronica-2)"
1656                                (elpher-make-gopher-address ?7 "/v2/vs" "gopher.floodgap.com" 70))
1657    (elpher-insert-index-record "Gemini Search Engine (geminispace.info)"
1658                                (elpher-address-from-url "gemini://geminispace.info/search"))
1659    (insert "\n"
1660            "Your bookmarks are stored in your ")
1661    (let ((help-string "RET,mouse-1: Open Emacs bookmark list"))
1662      (insert-text-button "Emacs bookmark list"
1663                          'face 'link
1664                          'action (lambda (_)
1665                                    (interactive)
1666                                    (call-interactively #'elpher-open-bookmarks))
1667                          'follow-link t
1668                          'help-echo help-string))
1669    (insert ".\n")
1670    (insert (propertize
1671             "(Bookmarks from legacy elpher-bookmarks files will be automatically imported.)\n"
1672             'face 'shadow))
1673    (insert "\n"
1674            "For Elpher release news or to leave feedback, visit:\n")
1675    (elpher-insert-index-record "The Elpher Project Page"
1676                                (elpher-make-gopher-address ?1
1677                                                            "/projects/elpher/"
1678                                                            "thelambdalab.xyz"
1679                                                            70))
1680    (insert "\n"
1681            "** Refer to the ")
1682    (let ((help-string "RET,mouse-1: Open Elpher info manual (if available)"))
1683      (insert-text-button "Elpher info manual"
1684                          'face 'link
1685                          'action (lambda (_)
1686                                    (interactive)
1687                                    (info "(elpher)"))
1688                          'follow-link t
1689                          'help-echo help-string))
1690    (insert " for the full documentation. **\n")
1691    (insert (propertize
1692             (concat "  (This should be available if you have installed Elpher using\n"
1693                     "   MELPA. Otherwise you will have to install the manual yourself.)\n")
1694             'face 'shadow))
1695    (elpher-restore-pos)))
1696
1697 ;; History page retrieval
1698
1699 (defun elpher-show-history ()
1700   "Show the current contents of elpher's history stack.
1701 Use \\[elpher-show-visited-pages] to see the entire history.
1702 This is rendered using `elpher-get-history-page' via `elpher-type-map'."
1703   (interactive)
1704   (elpher-visit-page
1705    (elpher-make-page "Current History Stack"
1706                      (elpher-make-special-address 'history))))
1707
1708 (defun elpher-show-visited-pages ()
1709   "Show the all the pages you've visited using Elpher.
1710 Use \\[elpher-show-history] to see just the current history stack.
1711 This is rendered using `elpher-get-visited-pages-page' via `elpher-type-map'."
1712   (interactive)
1713   (elpher-visit-page
1714    (elpher-make-page "Elpher Visted Pages"
1715                      (elpher-make-special-address 'visited-pages))))
1716
1717 (defun elpher-get-history-page (renderer)
1718   "Getter which displays the history page (RENDERER must be nil)."
1719   (when renderer
1720     (elpher-visit-previous-page)
1721     (error "Command not supported for history page"))
1722   (elpher-display-history-links elpher-history "Current history stack"))
1723
1724 (defun elpher-get-visited-pages-page (renderer)
1725   "Getter which displays the list of visited pages (RENDERER must be nil)."
1726   (when renderer
1727     (elpher-visit-previous-page)
1728     (error "Command not supported for history page"))
1729   (elpher-display-history-links
1730    (seq-filter (lambda (page)
1731                  (not (elpher-address-special-p (elpher-page-address page))))
1732                elpher-visited-pages)
1733    "All visited pages"))
1734
1735 (defun elpher-display-history-links (pages title)
1736   "Show all PAGES in an Elpher buffer with a given TITLE."
1737   (let* ((title-line (concat "---- " title " ----"))
1738          (footer-line (make-string (length title-line) ?-)))
1739     (elpher-with-clean-buffer
1740      (insert title-line "\n\n")
1741      (if pages
1742          (dolist (page pages)
1743            (when page
1744              (let ((display-string (elpher-page-display-string page))
1745                    (address (elpher-page-address page)))
1746                (elpher-insert-index-record display-string address))))
1747        (insert "No history items found.\n"))
1748      (insert "\n" footer-line "\n"
1749              "Select and entry or press 'u' to return to the previous page.")
1750      (elpher-restore-pos))))
1751
1752
1753 ;;; Bookmarks
1754
1755 ;; This code allows Elpher to use the standard Emacs bookmarks: `C-x r
1756 ;; m' to add a bookmark, `C-x r l' to list bookmarks (which is where
1757 ;; you can anotate bookmarks!), `C-x r b' to jump to a bookmark, and
1758 ;; so on. See the Bookmarks section in the Emacs info manual for more.
1759
1760 (defvar elpher-bookmark-link nil
1761   "Prefer bookmarking a link or the current page.
1762 Bind this variable dynamically, or set it to t.
1763 If you set it to t, the commands \\[bookmark-set-no-overwrite]
1764 and \\[elpher-set-bookmark-no-overwrite] do the same thing.")
1765
1766 (defun elpher-bookmark-make-record ()
1767   "Return a bookmark record.
1768 If `elpher-bookmark-link' is non-nil and point is on a link button,
1769 return a bookmark record for that link.  Otherwise, return a bookmark
1770 record for the current elpher page."
1771   (let* ((button (and elpher-bookmark-link (button-at (point))))
1772          (page (if button
1773                    (button-get button 'elpher-page)
1774                  elpher-current-page))
1775          (address (elpher-page-address page))
1776          (url (elpher-address-to-url address))
1777          (display-string (elpher-page-display-string page))
1778          (pos (if button nil (point))))
1779     (if (elpher-address-special-p address)
1780         (error "Cannot bookmark %s" display-string)
1781       `(,display-string
1782         (defaults . (,display-string))
1783         (position . ,pos)
1784         (location . ,url)
1785         (handler . elpher-bookmark-jump)))))
1786
1787 ;;;###autoload
1788 (defun elpher-bookmark-jump (bookmark)
1789   "Go to a particular BOOKMARK."
1790   (let* ((url (cdr (assq 'location bookmark))))
1791     (elpher-go url)))
1792
1793 (defun elpher-bookmark-link ()
1794   "Bookmark the link at point.
1795 To bookmark the current page, use \\[elpher-bookmark-current]."
1796   (interactive)
1797   (let ((elpher-bookmark-link t))
1798     (bookmark-set-no-overwrite)))
1799
1800 (defun elpher-bookmark-current ()
1801   "Bookmark the current page.
1802 To bookmark the link at point use \\[elpher-bookmark-link]."
1803   (interactive)
1804   (call-interactively #'bookmark-set-no-overwrite))
1805
1806 (defun elpher-bookmark-import (file)
1807   "Import legacy Elpher bookmarks file FILE into Emacs bookmarks."
1808   (interactive (list (if (and (boundp 'elpher-bookmarks-file)
1809                               (file-readable-p elpher-bookmarks-file))
1810                          elpher-bookmarks-file
1811                        (read-file-name "Old Elpher bookmarks: "
1812                                        user-emacs-directory nil t
1813                                        "elpher-bookmarks"))))
1814   (require 'bookmark)
1815   (dolist (bookmark (with-temp-buffer
1816                       (insert-file-contents file)
1817                       (read (current-buffer))))
1818     (let* ((display-string (car bookmark))
1819            (url (cadr bookmark))
1820            (record `(,display-string
1821                      (location . ,url)
1822                      (handler . elpher-bookmark-jump))))
1823       (bookmark-store display-string (cdr record) t)))
1824   (bookmark-save))
1825
1826 (defun elpher-open-bookmarks ()
1827   "Display the current list of elpher bookmarks.
1828 This is just a call to `bookmark-bmenu-list', but we also check for a legacy
1829 bookmark file and offer to import it."
1830   (interactive)
1831   (let ((old-bookmarks-file (or (and (boundp 'elpher-bookmarks-file)
1832                                      elpher-bookmarks-file)
1833                                 (locate-user-emacs-file "elpher-bookmarks"))))
1834     (when (and (file-readable-p old-bookmarks-file)
1835                (y-or-n-p (concat "Legacy elpher-bookmarks file \""
1836                                  old-bookmarks-file
1837                                  "\" found. Import now?")))
1838       (elpher-bookmark-import old-bookmarks-file)
1839       (rename-file old-bookmarks-file (concat old-bookmarks-file "-legacy"))))
1840   (call-interactively #'bookmark-bmenu-list))
1841
1842
1843 ;;; Integrations
1844 ;;
1845
1846 ;;; Org
1847
1848 (defun elpher-org-export-link (link description format protocol)
1849   "Export a LINK with DESCRIPTION for the given PROTOCOL and FORMAT.
1850
1851 FORMAT is an Org export backend.  DESCRIPTION may be nil.  PROTOCOL may be one
1852 of gemini, gopher or finger."
1853   (let* ((url (if (equal protocol "elpher")
1854                   (string-remove-prefix "elpher:" link)
1855                 (format "%s:%s" protocol link)))
1856          (desc (or description url)))
1857     (pcase format
1858       (`gemini (format "=> %s %s" url desc))
1859       (`html (format "<a href=\"%s\">%s</a>" url desc))
1860       (`latex (format "\\href{%s}{%s}" url desc))
1861       (_ (if (not description)
1862              url
1863            (format "%s (%s)" desc url))))))
1864
1865 (defun elpher-org-store-link ()
1866   "Store link to an `elpher' page in Org."
1867   (when (eq major-mode 'elpher-mode)
1868     (let* ((url (elpher-info-current))
1869            (desc (car elpher-current-page))
1870            (protocol (cond
1871                       ((string-prefix-p "gemini:" url) "gemini")
1872                       ((string-prefix-p "gopher:" url) "gopher")
1873                       ((string-prefix-p "finger:" url) "finger")
1874                       (t "elpher"))))
1875       (when (equal "elpher" protocol)
1876         ;; Weird link. Or special inner link?
1877         (setq url (concat "elpher:" url)))
1878       (org-link-store-props :type protocol :link url :description desc)
1879       t)))
1880
1881 (defun elpher-org-follow-link (link protocol)
1882   "Visit a LINK for the given PROTOCOL.
1883
1884 PROTOCOL may be one of gemini, gopher or finger.  This method also
1885 supports the old protocol elpher, where the link is self-contained."
1886   (let ((url (if (equal protocol "elpher")
1887                  (string-remove-prefix "elpher:" link)
1888                (format "%s:%s" protocol link))))
1889     (elpher-go url)))
1890
1891 (defun elpher-org-mode-integration ()
1892   "Set up `elpher' integration for `org-mode'."
1893   (org-link-set-parameters
1894    "elpher"
1895    :store #'elpher-org-store-link
1896    :export (lambda (link description format _plist)
1897              (elpher-org-export-link link description format "elpher"))
1898    :follow (lambda (link _arg) (elpher-org-follow-link link "elpher")))
1899   (org-link-set-parameters
1900    "gemini"
1901    :export (lambda (link description format _plist)
1902              (elpher-org-export-link link description format "gemini"))
1903    :follow (lambda (link _arg) (elpher-org-follow-link link "gemini")))
1904   (org-link-set-parameters
1905    "gopher"
1906    :export (lambda (link description format _plist)
1907              (elpher-org-export-link link description format "gopher"))
1908    :follow (lambda (link _arg) (elpher-org-follow-link link "gopher")))
1909   (org-link-set-parameters
1910    "finger"
1911    :export (lambda (link description format _plist)
1912              (elpher-org-export-link link description format "finger"))
1913    :follow (lambda (link _arg) (elpher-org-follow-link link "finger"))))
1914
1915 (add-hook 'org-mode-hook #'elpher-org-mode-integration)
1916
1917 ;;; Browse URL
1918
1919 ;;;###autoload
1920 (defun elpher-browse-url-elpher (url &rest _args)
1921   "Browse URL using Elpher.  This function is used by `browse-url'."
1922   (interactive (browse-url-interactive-arg "Elpher URL: "))
1923   (elpher-go url))
1924
1925 ;; Use elpher to open gopher, finger and gemini links
1926 ;; For recent version of `browse-url' package
1927 (if (boundp 'browse-url-default-handlers)
1928     (add-to-list
1929      'browse-url-default-handlers
1930      '("^\\(gopher\\|finger\\|gemini\\)://" . elpher-browse-url-elpher))
1931   ;; Patch `browse-url-browser-function' for older ones. The value of
1932   ;; that variable is `browse-url-default-browser' by default, so
1933   ;; that's the function that gets advised.
1934   (advice-add browse-url-browser-function :before-while
1935               (lambda (url &rest _args)
1936                 "Handle gemini, gopher, and finger schemes using Elpher."
1937                 (let ((scheme (downcase (car (split-string url ":" t)))))
1938                   (if (member scheme '("gemini" "gopher" "finger"))
1939                       ;; `elpher-go' always returns nil, which will stop the
1940                       ;; advice chain here in a before-while
1941                       (elpher-go url)
1942                     ;; chain must continue, then return t.
1943                     t)))))
1944
1945 ;; Register "gemini://" as a URI scheme so `browse-url' does the right thing
1946 (with-eval-after-load 'thingatpt
1947   (add-to-list 'thing-at-point-uri-schemes "gemini://"))
1948
1949 ;;; Mu4e:
1950
1951 ;; Make mu4e aware of the gemini world
1952 (setq mu4e~view-beginning-of-url-regexp
1953       "\\(?:https?\\|gopher\\|finger\\|gemini\\)://\\|mailto:")
1954
1955 ;;; Interactive procedures
1956 ;;
1957
1958 (defun elpher-next-link ()
1959   "Move point to the next link on the current page."
1960   (interactive)
1961   (forward-button 1))
1962
1963 (defun elpher-prev-link ()
1964   "Move point to the previous link on the current page."
1965   (interactive)
1966   (backward-button 1))
1967
1968 (defun elpher-follow-current-link ()
1969   "Open the link or url at point."
1970   (interactive)
1971   (push-button))
1972
1973 ;;;###autoload
1974 (defun elpher-go (host-or-url)
1975   "Go to a particular gopher site HOST-OR-URL.
1976 When run interactively HOST-OR-URL is read from the minibuffer."
1977   (interactive "sGopher or Gemini URL: ")
1978   (let* ((cleaned-host-or-url (string-trim host-or-url))
1979          (address (elpher-address-from-url cleaned-host-or-url))
1980          (page (elpher-make-page cleaned-host-or-url address)))
1981     (switch-to-buffer elpher-buffer-name)
1982     (elpher-with-clean-buffer
1983      (elpher-visit-page page))
1984     nil))
1985
1986 (defun elpher-go-current ()
1987   "Go to a particular site read from the minibuffer, initialized with the current URL."
1988   (interactive)
1989   (let ((address (elpher-page-address elpher-current-page)))
1990     (let ((url (read-string "Gopher or Gemini URL: "
1991                             (unless (elpher-address-special-p address)
1992                               (elpher-address-to-url address)))))
1993       (elpher-visit-page (elpher-make-page url (elpher-address-from-url url))))))
1994
1995 (defun elpher-redraw ()
1996   "Redraw current page."
1997   (interactive)
1998   (elpher-visit-page elpher-current-page))
1999
2000 (defun elpher-reload ()
2001   "Reload current page."
2002   (interactive)
2003   (elpher-reload-current-page))
2004
2005 (defun elpher-toggle-tls ()
2006   "Toggle TLS encryption mode for gopher."
2007   (interactive)
2008   (setq elpher-use-tls (not elpher-use-tls))
2009   (if elpher-use-tls
2010       (if (gnutls-available-p)
2011           (message "TLS gopher mode enabled.  (Will not affect current page until reload.)")
2012         (setq elpher-use-tls nil)
2013         (error "Cannot enable TLS gopher mode: GnuTLS not available"))
2014     (message "TLS gopher mode disabled.  (Will not affect current page until reload.)")))
2015
2016 (defun elpher-view-raw ()
2017   "View raw server response for current page."
2018   (interactive)
2019   (if (elpher-address-special-p (elpher-page-address elpher-current-page))
2020       (error "This page was not generated by a server")
2021     (elpher-visit-page elpher-current-page
2022                        #'elpher-render-raw)))
2023
2024 (defun elpher-back ()
2025   "Go to previous site."
2026   (interactive)
2027   (elpher-visit-previous-page))
2028
2029 (defun elpher-back-to-start ()
2030   "Go all the way back to the start page."
2031   (interactive)
2032   (setq-local elpher-current-page nil)
2033   (setq-local elpher-history nil)
2034   (elpher-visit-page (elpher-make-start-page)))
2035
2036 (defun elpher-download ()
2037   "Download the link at point."
2038   (interactive)
2039   (let ((button (button-at (point))))
2040     (if button
2041         (let ((page (button-get button 'elpher-page)))
2042           (if (elpher-address-special-p (elpher-page-address page))
2043               (error "Cannot download %s"
2044                      (elpher-page-display-string page))
2045             (elpher-visit-page (button-get button 'elpher-page)
2046                                #'elpher-render-download)))
2047       (error "No link selected"))))
2048
2049 (defun elpher-download-current ()
2050   "Download the current page."
2051   (interactive)
2052   (if (elpher-address-special-p (elpher-page-address elpher-current-page))
2053       (error "Cannot download %s"
2054              (elpher-page-display-string elpher-current-page))
2055     (elpher-visit-page (elpher-make-page
2056                         (elpher-page-display-string elpher-current-page)
2057                         (elpher-page-address elpher-current-page))
2058                        #'elpher-render-download
2059                        t)))
2060
2061 (defun elpher--build-link-map ()
2062   "Build alist mapping link names to destination pages in current buffer."
2063   (let ((link-map nil)
2064         (b (next-button (point-min) t)))
2065     (while b
2066       (push (cons (button-label b) b) link-map)
2067       (setq b (next-button (button-start b))))
2068     link-map))
2069
2070 (defun elpher-jump ()
2071   "Select a directory entry by name.  Similar to the info browser (m)enu command."
2072   (interactive)
2073   (let* ((link-map (elpher--build-link-map)))
2074     (if link-map
2075         (let ((key (let ((completion-ignore-case t))
2076                      (completing-read "Directory item/link: "
2077                                       link-map nil t))))
2078           (if (and key (> (length key) 0))
2079               (let ((b (cdr (assoc key link-map))))
2080                 (goto-char (button-start b))
2081                 (button-activate b)))))))
2082
2083 (defun elpher-root-dir ()
2084   "Visit root of current server."
2085   (interactive)
2086   (let ((address (elpher-page-address elpher-current-page)))
2087     (if (not (elpher-address-special-p address))
2088         (if (or (member (url-filename address) '("/" ""))
2089                 (and (elpher-address-gopher-p address)
2090                      (= (length (elpher-gopher-address-selector address)) 0)))
2091             (error "Already at root directory of current server")
2092           (let ((address-copy (elpher-address-from-url
2093                                (elpher-address-to-url address))))
2094             (setf (url-filename address-copy) "")
2095             (elpher-go (elpher-address-to-url address-copy))))
2096       (error "Command invalid for %s" (elpher-page-display-string elpher-current-page)))))
2097
2098 (defun elpher-info-page (page)
2099   "Display information on PAGE."
2100   (let ((display-string (elpher-page-display-string page))
2101         (address (elpher-page-address page)))
2102     (if (elpher-address-special-p address)
2103         (message "Special page: %s" display-string)
2104       (message "%s" (elpher-address-to-url address)))))
2105
2106 (defun elpher-info-link ()
2107   "Display information on page corresponding to link at point."
2108   (interactive)
2109   (let ((button (button-at (point))))
2110     (if button
2111         (elpher-info-page (button-get button 'elpher-page))
2112       (error "No item selected"))))
2113
2114 (defun elpher-info-current ()
2115   "Display information on current page."
2116   (interactive)
2117   (elpher-info-page elpher-current-page))
2118
2119 (defun elpher-copy-page-url (page)
2120   "Copy URL representation of address of PAGE to `kill-ring'."
2121   (let ((address (elpher-page-address page)))
2122     (if (elpher-address-special-p address)
2123         (error (format "Cannot represent %s as URL" (elpher-page-display-string page)))
2124       (let ((url (elpher-address-to-url address)))
2125         (message "Copied \"%s\" to kill-ring/clipboard." url)
2126         (kill-new url)))))
2127
2128 (defun elpher-copy-link-url ()
2129   "Copy URL of item at point to `kill-ring'."
2130   (interactive)
2131   (let ((button (button-at (point))))
2132     (if button
2133         (elpher-copy-page-url (button-get button 'elpher-page))
2134       (error "No item selected"))))
2135
2136 (defun elpher-copy-current-url ()
2137   "Copy URL of current page to `kill-ring'."
2138   (interactive)
2139   (elpher-copy-page-url elpher-current-page))
2140
2141 (defun elpher-set-gopher-coding-system ()
2142   "Specify an explicit character coding system for gopher selectors."
2143   (interactive)
2144   (let ((system (read-coding-system "Set coding system to use for gopher (default is to autodetect): " nil)))
2145     (setq elpher-user-coding-system system)
2146     (if system
2147         (message "Gopher coding system fixed to %s. (Reload to see effect)." system)
2148       (message "Gopher coding system set to autodetect. (Reload to see effect)."))))
2149
2150
2151 ;;; Mode and keymap
2152 ;;
2153
2154 (defvar elpher-mode-map
2155   (let ((map (make-sparse-keymap)))
2156     (define-key map (kbd "TAB") 'elpher-next-link)
2157     (define-key map (kbd "<backtab>") 'elpher-prev-link)
2158     (define-key map (kbd "C-M-i") 'elpher-prev-link)
2159     (define-key map (kbd "u") 'elpher-back)
2160     (define-key map (kbd "-") 'elpher-back)
2161     (define-key map (kbd "^") 'elpher-back)
2162     (define-key map [mouse-3] 'elpher-back)
2163     (define-key map (kbd "U") 'elpher-back-to-start)
2164     (define-key map (kbd "g") 'elpher-go)
2165     (define-key map (kbd "o") 'elpher-go-current)
2166     (define-key map (kbd "O") 'elpher-root-dir)
2167     (define-key map (kbd "s") 'elpher-show-history)
2168     (define-key map (kbd "S") 'elpher-show-visited-pages)
2169     (define-key map (kbd "r") 'elpher-redraw)
2170     (define-key map (kbd "R") 'elpher-reload)
2171     (define-key map (kbd "T") 'elpher-toggle-tls)
2172     (define-key map (kbd ".") 'elpher-view-raw)
2173     (define-key map (kbd "d") 'elpher-download)
2174     (define-key map (kbd "D") 'elpher-download-current)
2175     (define-key map (kbd "m") 'elpher-jump)
2176     (define-key map (kbd "i") 'elpher-info-link)
2177     (define-key map (kbd "I") 'elpher-info-current)
2178     (define-key map (kbd "c") 'elpher-copy-link-url)
2179     (define-key map (kbd "C") 'elpher-copy-current-url)
2180     (define-key map (kbd "a") 'elpher-bookmark-link)
2181     (define-key map (kbd "A") 'elpher-bookmark-current)
2182     (define-key map (kbd "B") 'elpher-open-bookmarks)
2183     (define-key map (kbd "!") 'elpher-set-gopher-coding-system)
2184     (define-key map (kbd "F") 'elpher-forget-current-certificate)
2185     (when (fboundp 'evil-define-key*)
2186       (evil-define-key*
2187        'motion map
2188        (kbd "TAB") 'elpher-next-link
2189        (kbd "C-") 'elpher-follow-current-link
2190        (kbd "C-t") 'elpher-back
2191        (kbd "u") 'elpher-back
2192        (kbd "-") 'elpher-back
2193        (kbd "^") 'elpher-back
2194        [mouse-3] 'elpher-back
2195        (kbd "U") 'elpher-back-to-start
2196        (kbd "g") 'elpher-go
2197        (kbd "o") 'elpher-go-current
2198        (kbd "O") 'elpher-root-dir
2199        (kbd "s") 'elpher-show-history
2200        (kbd "S") 'elpher-show-visited-pages
2201        (kbd "r") 'elpher-redraw
2202        (kbd "R") 'elpher-reload
2203        (kbd "T") 'elpher-toggle-tls
2204        (kbd ".") 'elpher-view-raw
2205        (kbd "d") 'elpher-download
2206        (kbd "D") 'elpher-download-current
2207        (kbd "m") 'elpher-jump
2208        (kbd "i") 'elpher-info-link
2209        (kbd "I") 'elpher-info-current
2210        (kbd "c") 'elpher-copy-link-url
2211        (kbd "C") 'elpher-copy-current-url
2212        (kbd "a") 'elpher-bookmark-link
2213        (kbd "A") 'elpher-bookmark-current
2214        (kbd "B") 'elpher-open-bookmarks
2215        (kbd "!") 'elpher-set-gopher-coding-system
2216        (kbd "F") 'elpher-forget-current-certificate))
2217     map)
2218   "Keymap for gopher client.")
2219
2220 (define-derived-mode elpher-mode special-mode "elpher"
2221   "Major mode for elpher, an elisp gopher client.
2222
2223 This mode is automatically enabled by the interactive
2224 functions which initialize the client, namely
2225 `elpher', and `elpher-go'."
2226   (setq-local elpher--gemini-page-headings nil)
2227   (setq-local elpher-current-page nil)
2228   (setq-local elpher-history nil)
2229   (setq-local elpher-buffer-name (buffer-name))
2230   (setq-local bookmark-make-record-function #'elpher-bookmark-make-record)
2231   (setq-local imenu-create-index-function (lambda () elpher--gemini-page-headings)))
2232
2233 (when (fboundp 'evil-set-initial-state)
2234   (evil-set-initial-state 'elpher-mode 'motion))
2235
2236
2237 ;;; Main start procedure
2238 ;;
2239
2240 ;;;###autoload
2241 (defun elpher (&optional arg)
2242   "Start elpher with default landing page.
2243 The buffer used for Elpher sessions is determined by the value of
2244 ‘elpher-buffer-name’.  If there is already an Elpher session active in
2245 that buffer, Emacs will simply switch to it.  Otherwise, a new session
2246 will begin.  A numeric prefix ARG (as in ‘\\[universal-argument] 42
2247 \\[execute-extended-command] elpher RET’) switches to the session with
2248 that number, creating it if necessary.  A non numeric prefix ARG means
2249 to create a new session.  Returns the buffer selected (or created)."
2250   (interactive "P")
2251   (let* ((name (default-value 'elpher-buffer-name))
2252          (buf (cond ((numberp arg)
2253                      (get-buffer-create (format "%s<%d>" name arg)))
2254                     (arg
2255                      (generate-new-buffer name))
2256                     (t
2257                      (get-buffer-create name)))))
2258     (pop-to-buffer-same-window buf)
2259     (unless (buffer-modified-p)
2260       (elpher-mode)
2261       (elpher-visit-page (elpher-make-start-page))
2262       "Started Elpher."))); Otherwise (elpher) evaluates to start page string.
2263
2264 ;;; elpher.el ends here