a7a3e541b8211973ba7abc7db6a503339f40eb45
[elpher.git] / elpher.el
1 ;;; elpher.el --- A friendly gopher and gemini client  -*- lexical-binding: t -*-
2
3 ;; Copyright (C) 2021 Jens Östlund <jostlund@gmail.com>
4 ;; Copyright (C) 2021 F. Jason Park <jp@neverwas.me>
5 ;; Copyright (C) 2021 Christopher Brannon <chris@the-brannons.com>
6 ;; Copyright (C) 2021 Omar Polo <op@omarpolo.com>
7 ;; Copyright (C) 2021 Noodles! <nnoodle@chiru.no>
8 ;; Copyright (C) 2020-2021 Alex Schroeder <alex@gnu.org>
9 ;; Copyright (C) 2020 Zhiwei Chen <chenzhiwei03@kuaishou.com>
10 ;; Copyright (C) 2020 condy0919 <condy0919@gmail.com>
11 ;; Copyright (C) 2020 Alexis <flexibeast@gmail.com>
12 ;; Copyright (C) 2020 Étienne Deparis <etienne@depar.is>
13 ;; Copyright (C) 2020 Simon Nicolussi <sinic@sinic.name>
14 ;; Copyright (C) 2020 Michel Alexandre Salim <michel@michel-slm.name>
15 ;; Copyright (C) 2020 Koushk Roy <kroy@twilio.com>
16 ;; Copyright (C) 2020 Vee <vee@vnsf.xyz>
17 ;; Copyright (C) 2020 Simon South <simon@simonsouth.net>
18 ;; Copyright (C) 2019-2021 Tim Vaughan <plugd@thelambdalab.xyz>
19
20 ;; Author: Tim Vaughan <plugd@thelambdalab.xyz>
21 ;; Created: 11 April 2019
22 ;; Version: 2.11.0
23 ;; Keywords: comm gopher
24 ;; Homepage: https://thelambdalab.xyz/elpher
25 ;; Package-Requires: ((emacs "27.1"))
26
27 ;; This file is not part of GNU Emacs.
28
29 ;; This program is free software: you can redistribute it and/or modify
30 ;; it under the terms of the GNU General Public License as published by
31 ;; the Free Software Foundation, either version 3 of the License, or
32 ;; (at your option) any later version.
33
34 ;; This program is distributed in the hope that it will be useful,
35 ;; but WITHOUT ANY WARRANTY; without even the implied warranty of
36 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
37 ;; GNU General Public License for more details.
38
39 ;; You should have received a copy of the GNU General Public License
40 ;; along with this file.  If not, see <http://www.gnu.org/licenses/>.
41
42 ;;; Commentary:
43
44 ;; Elpher aims to provide a practical and friendly gopher and gemini
45 ;; client for GNU Emacs.  It supports:
46
47 ;; - intuitive keyboard and mouse-driven browsing,
48 ;; - out-of-the-box compatibility with evil-mode,
49 ;; - clickable web and gopher links *in plain text*,
50 ;; - caching of visited sites,
51 ;; - pleasant and configurable colouring of Gopher directories,
52 ;; - direct visualisation of image files,
53 ;; - gopher connections using TLS encryption,
54 ;; - the fledgling Gemini protocol,
55 ;; - the greybeard Finger protocol.
56
57 ;; To launch Elpher, simply use 'M-x elpher'.  This will open a start
58 ;; page containing information on key bindings and suggested starting
59 ;; points for your gopher exploration.
60
61 ;; Full instructions can be found in the Elpher info manual.
62
63 ;; Elpher is under active development.  Any suggestions for
64 ;; improvements are welcome, and can be made on the official
65 ;; project page, gopher://thelambdalab.xyz/elpher, or via the
66 ;; project mailing list at https://lists.sr.ht/~michel-slm/elpher.
67
68 ;;; Code:
69
70 (provide 'elpher)
71
72 ;;; Dependencies
73 ;;
74
75 (require 'seq)
76 (require 'pp)
77 (require 'shr)
78 (require 'url-util)
79 (require 'subr-x)
80 (require 'dns)
81 (require 'nsm)
82 (require 'gnutls)
83 (require 'socks)
84
85 ;;; ANSI colors or XTerm colors
86
87 (or (require 'xterm-color nil t)
88     (require 'ansi-color))
89
90 (defalias 'elpher-color-filter-apply
91   (if (fboundp 'xterm-color-filter)
92       (lambda (s)
93         (let ((_xterm-color-render nil))
94           (xterm-color-filter s)))
95     'ansi-color-filter-apply)
96   "A function to filter out ANSI escape sequences.")
97
98 (defalias 'elpher-color-apply
99   (if (fboundp 'xterm-color-filter)
100       'xterm-color-filter
101     'ansi-color-apply)
102   "A function to apply ANSI escape sequences.")
103
104 ;;; Global constants
105 ;;
106
107 (defconst elpher-version "2.11.0"
108   "Current version of elpher.")
109
110 (defconst elpher-margin-width 6
111   "Width of left-hand margin used when rendering indicies.")
112
113 (defconst elpher-type-map
114   '(((gopher ?0) elpher-get-gopher-page elpher-render-text "txt" elpher-text)
115     ((gopher ?1) elpher-get-gopher-page elpher-render-index "/" elpher-index)
116     ((gopher ?4) elpher-get-gopher-page elpher-render-download "bin" elpher-binary)
117     ((gopher ?5) elpher-get-gopher-page elpher-render-download "bin" elpher-binary)
118     ((gopher ?7) elpher-get-gopher-query-page elpher-render-index "?" elpher-search)
119     ((gopher ?9) elpher-get-gopher-page elpher-render-download "bin" elpher-binary)
120     ((gopher ?g) elpher-get-gopher-page elpher-render-image "img" elpher-image)
121     ((gopher ?p) elpher-get-gopher-page elpher-render-image "img" elpher-image)
122     ((gopher ?I) elpher-get-gopher-page elpher-render-image "img" elpher-image)
123     ((gopher ?d) elpher-get-gopher-page elpher-render-download "doc" elpher-binary)
124     ((gopher ?P) elpher-get-gopher-page elpher-render-download "doc" elpher-binary)
125     ((gopher ?s) elpher-get-gopher-page elpher-render-download "snd" elpher-binary)
126     ((gopher ?h) elpher-get-gopher-page elpher-render-html "htm" elpher-html)
127     (gemini elpher-get-gemini-page elpher-render-gemini "gem" elpher-gemini)
128     (finger elpher-get-finger-page elpher-render-text "txt" elpher-text)
129     (telnet elpher-get-telnet-page nil "tel" elpher-telnet)
130     (other-url elpher-get-other-url-page nil "url" elpher-other-url)
131     ((special start) elpher-get-start-page nil)
132     ((special history) elpher-get-history-page nil)
133     ((special history-all) elpher-get-history-all-page nil))
134   "Association list from types to getters, renderers, margin codes and index faces.")
135
136
137 ;;; Internal variables
138 ;;
139
140 ;; buffer-local
141 (defvar elpher--gemini-page-headings nil
142   "List of headings on the page.")
143
144
145 ;;; Customization group
146 ;;
147
148 (defgroup elpher nil
149   "A gopher and gemini client."
150   :group 'applications)
151
152 ;; General appearance and customizations
153
154 (defcustom elpher-open-urls-with-eww nil
155   "If non-nil, open URL selectors using eww.
156 Otherwise, use the system browser via the `browse-url' function."
157   :type '(boolean))
158
159 (defcustom elpher-use-header t
160   "If non-nil, display current page information in buffer header."
161   :type '(boolean))
162
163 (defcustom elpher-auto-disengage-TLS nil
164   "If non-nil, automatically disengage TLS following an unsuccessful connection.
165 While enabling this may seem convenient, it is also potentially
166 dangerous as it allows switching from an encrypted channel back to
167 plain text without user input."
168   :type '(boolean))
169
170 (defcustom elpher-connection-timeout 5
171   "Specifies the number of seconds to wait for a network connection to time out."
172   :type '(integer))
173
174 (defcustom elpher-filter-ansi-from-text nil
175   "If non-nil, filter ANSI escape sequences from text.
176 The default behaviour is to use the ansi-color package to interpret these
177 sequences."
178   :type '(boolean))
179
180 (defcustom elpher-certificate-directory
181   (file-name-as-directory (locate-user-emacs-file "elpher-certificates"))
182   "Specify the name of the directory where client certificates will be stored.
183 These certificates may be used for establishing authenticated TLS connections."
184   :type '(directory))
185
186 (defcustom elpher-openssl-command "openssl"
187   "The command used to launch openssl when generating TLS client certificates."
188   :type '(file))
189
190 (defcustom elpher-default-url-type "gopher"
191   "Default URL type (i.e. scheme) to assume if not explicitly given."
192   :type '(choice (const "gopher")
193                  (const "gemini")))
194
195 (defcustom elpher-gemini-TLS-cert-checks nil
196   "If non-nil, verify gemini server TLS certs using the default security level.
197 Otherwise, certificate verification is disabled.
198
199 This defaults to off because it is standard practice for Gemini servers
200 to use self-signed certificates, meaning that most servers provide what
201 EMACS considers to be an invalid certificate."
202   :type '(boolean))
203
204 (defcustom elpher-gemini-max-fill-width 80
205   "Specify the maximum default width (in columns) of text/gemini documents.
206 The actual width used is the minimum of this value and the window width at
207 the time when the text is rendered."
208   :type '(integer))
209
210 (defcustom elpher-gemini-link-string "→ "
211   "Specify the string used to indicate links when rendering gemini maps.
212 May be empty."
213   :type '(string))
214
215 (defcustom elpher-gemini-bullet-string "•"
216   "Specify the string used for bullets when rendering gemini maps."
217   :type '(string))
218
219 (defcustom elpher-ipv4-always nil
220   "If non-nil, elpher will always use IPv4 to establish network connections.
221 This can be useful when browsing from a computer that supports IPv6, because
222 some servers which do not support IPv6 can take a long time to time-out."
223   :type '(boolean))
224
225 (defcustom elpher-socks-always nil
226   "If non-nil, elpher will establish network connections over a SOCKS proxy.
227 Otherwise, the SOCKS proxy is only used for connections to onion services."
228   :type '(boolean))
229
230 (defcustom elpher-number-links nil
231   "If non-nil, number links in pages when rendering.
232 Links can be followed numerically by pressing `M' and entering by the link number."
233   :type '(boolean))
234
235 ;; Face customizations
236
237 (defgroup elpher-faces nil
238   "Elpher face customizations."
239   :group 'elpher)
240
241 (defface elpher-index
242   '((t :inherit font-lock-keyword-face))
243   "Face used for directory type directory records.")
244
245 (defface elpher-text
246   '((t :inherit bold))
247   "Face used for text type directory records.")
248
249 (defface elpher-info
250   '((t :inherit default))
251   "Face used for info type directory records.")
252
253 (defface elpher-image
254   '((t :inherit font-lock-string-face))
255   "Face used for image type directory records.")
256
257 (defface elpher-search
258   '((t :inherit warning))
259   "Face used for search type directory records.")
260
261 (defface elpher-html
262   '((t :inherit font-lock-comment-face))
263   "Face used for html type directory records.")
264
265 (defface elpher-gemini
266   '((t :inherit font-lock-constant-face))
267   "Face used for Gemini type directory records.")
268
269 (defface elpher-other-url
270   '((t :inherit font-lock-comment-face))
271   "Face used for other URL type links records.")
272
273 (defface elpher-telnet
274   '((t :inherit font-lock-function-name-face))
275   "Face used for telnet type directory records.")
276
277 (defface elpher-binary
278   '((t :inherit font-lock-doc-face))
279   "Face used for binary type directory records.")
280
281 (defface elpher-unknown
282   '((t :inherit error))
283   "Face used for directory records with unknown/unsupported types.")
284
285 (defface elpher-margin-key
286   '((t :inherit bold))
287   "Face used for directory margin key.")
288
289 (defface elpher-margin-brackets
290   '((t :inherit shadow))
291   "Face used for brackets around directory margin key.")
292
293 (defface elpher-gemini-heading1
294   '((t :inherit bold :height 1.8))
295   "Face used for gemini heading level 1.")
296
297 (defface elpher-gemini-heading2
298   '((t :inherit bold :height 1.5))
299   "Face used for gemini heading level 2.")
300
301 (defface elpher-gemini-heading3
302   '((t :inherit bold :height 1.2))
303   "Face used for gemini heading level 3.")
304
305 (defface elpher-gemini-preformatted
306   '((t :inherit fixed-pitch))
307   "Face used for pre-formatted gemini text blocks.")
308
309 (defface elpher-gemini-quoted
310   '((t :inherit font-lock-doc-face))
311   "Face used for gemini quoted texts.")
312
313 ;;; Model
314 ;;
315
316 ;; Address
317
318 ;; An elpher "address" object is either a url object or a symbol.
319 ;; Symbol addresses are "special", corresponding to pages generated
320 ;; dynamically for and by elpher.  All others represent pages which
321 ;; rely on content retrieved over the network.
322
323 (defun elpher-address-from-url (url-string)
324   "Create a ADDRESS object corresponding to the given URL-STRING."
325   (let ((data (match-data))) ; Prevent parsing clobbering match data
326     (unwind-protect
327         (let ((url (url-generic-parse-url url-string)))
328           (unless (and (not (url-fullness url)) (url-type url))
329             (setf (url-fullness url) t)
330             (unless (url-type url)
331               (setf (url-type url) elpher-default-url-type))
332             (unless (url-host url)
333               (let ((p (split-string (url-filename url) "/" nil nil)))
334                 (setf (url-host url) (car p))
335                 (setf (url-filename url)
336                       (if (cdr p)
337                           (concat "/" (mapconcat #'identity (cdr p) "/"))
338                         ""))))
339             (when (or (equal "gopher" (url-type url))
340                       (equal "gophers" (url-type url)))
341               ;; Gopher defaults
342               (when (or (equal (url-filename url) "")
343                         (equal (url-filename url) "/"))
344                 (setf (url-filename url) "/1")))
345             (when (equal "gemini" (url-type url))
346               ;; Gemini defaults
347               (if (equal (url-filename url) "")
348                   (setf (url-filename url) "/"))))
349           (elpher-remove-redundant-ports url))
350       (set-match-data data))))
351
352 (defun elpher-remove-redundant-ports (address)
353   "Remove redundant port specifiers from ADDRESS.
354 Here 'redundant' means that the specified port matches the default
355 for that protocol, eg 70 for gopher."
356   (if (and (not (elpher-address-special-p address))
357            (eq (url-portspec address) ; (url-port) is too slow!
358                (pcase (url-type address)
359                  ("gemini" 1965)
360                  ((or "gopher" "gophers") 70)
361                  ("finger" 79)
362                  (_ -1))))
363       (setf (url-portspec address) nil))
364   address)
365
366 (defun elpher-make-gopher-address (type selector host port &optional tls)
367   "Create an ADDRESS object using gopher directory record attributes.
368 The basic attributes include: TYPE, SELECTOR, HOST and PORT.
369 If the optional attribute TLS is non-nil, the address will be marked as
370 requiring gopher-over-TLS."
371   (cond
372    ((equal type ?i) nil)
373    ((and (equal type ?h)
374          (string-prefix-p "URL:" selector))
375     (elpher-address-from-url (elt (split-string selector "URL:") 1)))
376    ((equal type ?8)
377     (elpher-address-from-url
378      (concat "telnet"
379              "://" host
380              ":" (number-to-string port))))
381    (t
382     (elpher-address-from-url
383      (concat "gopher" (if tls "s" "")
384              "://" host
385              ":" (number-to-string port)
386              "/" (string type)
387              selector)))))
388
389 (defun elpher-make-special-address (type)
390   "Create an ADDRESS object corresponding to the given special address symbol TYPE."
391   type)
392
393 (defun elpher-make-start-page ()
394   "Create the start page."
395   (elpher-make-page "Elpher Start Page"
396                     (elpher-make-special-address 'start)))
397
398 (defun elpher-address-to-url (address)
399   "Get string representation of ADDRESS, or nil if ADDRESS is special."
400   (if (elpher-address-special-p address)
401       nil
402     (url-encode-url (url-recreate-url address))))
403
404 (defun elpher-address-type (address)
405   "Retrieve type of ADDRESS object.
406 This is used to determine how to retrieve and render the document the
407 address refers to, via the table `elpher-type-map'."
408   (if (symbolp address)
409       (list 'special address)
410     (let ((protocol (url-type address)))
411       (cond ((or (equal protocol "gopher")
412                  (equal protocol "gophers"))
413              (list 'gopher
414                    (if (member (url-filename address) '("" "/"))
415                        ?1
416                      (string-to-char (substring (url-filename address) 1)))))
417             ((equal protocol "gemini")
418              'gemini)
419             ((equal protocol "telnet")
420              'telnet)
421             ((equal protocol "finger")
422              'finger)
423             (t 'other-url)))))
424
425 (defun elpher-address-protocol (address)
426   "Retrieve the transport protocol for ADDRESS.  This is nil for special addresses."
427   (if (symbolp address)
428       nil
429     (url-type address)))
430
431 (defun elpher-address-filename (address)
432   "Retrieve the filename component of ADDRESS.
433 For gopher addresses this is a combination of the selector type and selector."
434   (if (symbolp address)
435       nil
436     (url-unhex-string (url-filename address))))
437
438 (defun elpher-address-host (address)
439   "Retrieve host from ADDRESS object."
440   (url-host address))
441
442 (defun elpher-address-user (address)
443   "Retrieve user from ADDRESS object."
444   (url-user address))
445
446 (defun elpher-address-port (address)
447   "Retrieve port from ADDRESS object.
448 If no address is defined, returns 0.  (This is for compatibility with the URL library.)"
449   (if (symbolp address)
450       0
451     (url-port address)))
452
453 (defun elpher-address-special-p (address)
454   "Return non-nil if ADDRESS object is special (e.g. start page page)."
455   (symbolp address))
456
457 (defun elpher-address-gopher-p (address)
458   "Return non-nill if ADDRESS object is a gopher address."
459   (and (not (elpher-address-special-p address))
460        (member (elpher-address-protocol address) '("gopher" "gophers"))))
461
462 (defun elpher-gopher-address-selector (address)
463   "Retrieve gopher selector from ADDRESS object."
464   (if (member (url-filename address) '("" "/"))
465       ""
466     (url-unhex-string (substring (url-filename address) 2))))
467
468
469 ;; Cache
470
471 (defvar elpher-content-cache (make-hash-table :test 'equal))
472 (defvar elpher-pos-cache (make-hash-table :test 'equal))
473
474 (defun elpher-get-cached-content (address)
475   "Retrieve the cached content for ADDRESS, or nil if none exists."
476   (gethash address elpher-content-cache))
477
478 (defun elpher-cache-content (address content)
479   "Set the content cache for ADDRESS to CONTENT."
480   (puthash address content elpher-content-cache))
481
482 (defun elpher-get-cached-pos (address)
483   "Retrieve the cached cursor position for ADDRESS, or nil if none exists."
484   (gethash address elpher-pos-cache))
485
486 (defun elpher-cache-pos (address pos)
487   "Set the cursor position cache for ADDRESS to POS."
488   (puthash address pos elpher-pos-cache))
489
490
491 ;; Page
492
493 (defun elpher-make-page (display-string address)
494   "Create a page with DISPLAY-STRING and ADDRESS."
495   (list display-string address))
496
497 (defun elpher-page-display-string (page)
498   "Retrieve the display string corresponding to PAGE."
499   (elt page 0))
500
501 (defun elpher-page-address (page)
502   "Retrieve the address corresponding to PAGE."
503   (elt page 1))
504
505 (defun elpher-page-set-address (page new-address)
506   "Set the address corresponding to PAGE to NEW-ADDRESS."
507   (setcar (cdr page) new-address))
508
509 (defvar elpher-current-page nil
510   "The current page for this Elpher buffer.")
511
512 (defvar elpher-history nil
513   "The local history for this Elpher buffer.
514 This variable is used by `elpher-back' and
515 `elpher-show-history'.")
516
517 (defvar elpher-history-all nil
518   "The global history for all Elpher buffers.
519 This variable is used by `elpher-show-history-all'.")
520
521 (defun elpher-visit-page (page &optional renderer no-history)
522   "Visit PAGE using its own renderer or RENDERER, if non-nil.
523 Additionally, push PAGE onto the stack of previously-visited pages,
524 unless NO-HISTORY is non-nil."
525   (elpher-save-pos)
526   (elpher-process-cleanup)
527   (elpher-reset-link-number-counter)
528   (unless (or no-history
529               (equal (elpher-page-address elpher-current-page)
530                      (elpher-page-address page)))
531     (push elpher-current-page elpher-history)
532     (push elpher-current-page elpher-history-all))
533   (setq-local elpher-current-page page)
534   (let* ((address (elpher-page-address page))
535          (type (elpher-address-type address))
536          (type-record (cdr (assoc type elpher-type-map))))
537     (if type-record
538         (funcall (car type-record)
539                  (if renderer
540                      renderer
541                    (cadr type-record)))
542       (elpher-visit-previous-page)
543       (pcase type
544         (`(gopher ,type-char)
545          (error "Unsupported gopher selector type '%c' for '%s'"
546                 type-char (elpher-address-to-url address)))
547         (other
548          (error "Unsupported address type '%S' for '%s'"
549                 other (elpher-address-to-url address)))))))
550
551 (defun elpher-visit-previous-page ()
552   "Visit the previous page in the history."
553   (let ((previous-page (pop elpher-history)))
554     (if previous-page
555         (elpher-visit-page previous-page nil t)
556       (error "No previous page"))))
557
558 (defun elpher-reload-current-page ()
559   "Reload the current page, discarding any existing cached content."
560   (elpher-cache-content (elpher-page-address elpher-current-page) nil)
561   (elpher-visit-page elpher-current-page))
562
563 (defun elpher-save-pos ()
564   "Save the current position of point to the current page."
565   (when elpher-current-page
566     (elpher-cache-pos (elpher-page-address elpher-current-page) (point))))
567
568 (defun elpher-restore-pos ()
569   "Restore the position of point to that cached in the current page."
570   (let ((pos (elpher-get-cached-pos (elpher-page-address elpher-current-page))))
571     (if pos
572         (goto-char pos)
573       (goto-char (point-min)))))
574
575
576 ;;; Buffer preparation
577 ;;
578
579 (defvar elpher-buffer-name "*elpher*"
580   "The default name of the Elpher buffer.")
581
582 (defun elpher-update-header ()
583   "If `elpher-use-header' is true, display current page info in window header."
584   (if elpher-use-header
585       (let* ((display-string (elpher-page-display-string elpher-current-page))
586              (address (elpher-page-address elpher-current-page))
587              (tls-string (if (and (not (elpher-address-special-p address))
588                                   (member (elpher-address-protocol address)
589                                           '("gophers" "gemini")))
590                              " [TLS encryption]"
591                            ""))
592              (header (concat display-string
593                              (propertize tls-string 'face 'bold))))
594         (setq header-line-format header))))
595
596 (defmacro elpher-with-clean-buffer (&rest args)
597   "Evaluate ARGS with a clean *elpher* buffer as current."
598   `(with-current-buffer elpher-buffer-name
599      (unless (eq major-mode 'elpher-mode)
600        ;; avoid resetting buffer-local variables
601        (elpher-mode))
602      (let ((inhibit-read-only t))
603        (setq-local network-security-level
604                    (default-value 'network-security-level))
605        (erase-buffer)
606        (elpher-update-header)
607        ,@args)))
608
609 (defun elpher-buffer-message (string &optional line)
610   "Replace first line in elpher buffer with STRING.
611 If LINE is non-nil, replace that line instead."
612   (with-current-buffer elpher-buffer-name
613     (let ((inhibit-read-only t))
614       (goto-char (point-min))
615       (if line
616           (forward-line line))
617       (let ((data (match-data)))
618         (unwind-protect
619             (progn
620               (re-search-forward "^.*$")
621               (replace-match string))
622           (set-match-data data))))))
623
624
625 ;;; Text Processing
626 ;;
627
628 (defvar elpher-user-coding-system nil
629   "User-specified coding system to use for decoding text responses.")
630
631 (defun elpher-decode (string)
632   "Decode STRING using autodetected or user-specified coding system."
633   (decode-coding-string string
634                         (if elpher-user-coding-system
635                             elpher-user-coding-system
636                           (detect-coding-string string t))))
637
638 (defun elpher-preprocess-text-response (string)
639   "Preprocess text selector response contained in STRING.
640 This involes decoding the character representation, and clearing
641 away CRs and any terminating period."
642   (elpher-decode (replace-regexp-in-string "\n\\.\n$" "\n"
643                                            (replace-regexp-in-string "\r" "" string))))
644
645
646 ;;; Network error reporting
647 ;;
648
649 (defun elpher-network-error (address error)
650   "Display ERROR message following unsuccessful negotiation with ADDRESS.
651 ERROR can be either an error object or a string."
652   (elpher-with-clean-buffer
653    (insert (propertize "\n---- ERROR -----\n\n" 'face 'error)
654            "When attempting to retrieve " (elpher-address-to-url address) ":\n"
655            (if (stringp error) error (error-message-string error)) "\n"
656            (propertize "\n----------------\n\n" 'face 'error)
657            "Press 'u' to return to the previous page.")))
658
659
660 ;;; General network communication
661 ;;
662
663 (defvar elpher-network-timer nil
664   "Timer used for network connections.")
665
666 (defvar elpher-use-tls nil
667   "If non-nil, use TLS to communicate with gopher servers.")
668
669 (defvar elpher-client-certificate nil
670   "If non-nil, contains client certificate details to use for TLS connections.")
671
672 (defun elpher-process-cleanup ()
673   "Immediately shut down any extant elpher process and timers."
674   (let ((p (get-process "elpher-process")))
675     (if p (delete-process p)))
676   (if (timerp elpher-network-timer)
677       (cancel-timer elpher-network-timer)))
678
679 (defun elpher-get-host-response (address default-port query-string response-processor
680                                          &optional use-tls force-ipv4)
681   "Generic function for retrieving data from ADDRESS.
682
683 When ADDRESS lacks a specific port, DEFAULT-PORT is used instead.
684 QUERY-STRING is a string sent to the host specified by ADDRESS to
685 illicet a response.  This response is passed as an argument to the
686 function RESPONSE-PROCESSOR.
687
688 If non-nil, USE-TLS specifies that the connection is to be made over
689 TLS.  If set to gemini, the certificate verification will be disabled
690 unless `elpher-gemini-TLS-cert-checks' is non-nil.
691
692 If non-nil, FORCE-IPV4 causes the network connection to be made over
693 ipv4 only.  (The default behaviour when this is not set depends on
694 the host operating system and the local network capabilities.)"
695   (if (and use-tls (not (gnutls-available-p)))
696       (error "Use of TLS requires Emacs to be compiled with GNU TLS support")
697     (unless (< (elpher-address-port address) 65536)
698       (error "Cannot establish network connection: port number > 65536"))
699     (when (and (eq use-tls 'gemini) (not elpher-gemini-TLS-cert-checks))
700       (setq-local network-security-level 'low)
701       (setq-local gnutls-verify-error nil))
702     (condition-case nil
703         (let* ((kill-buffer-query-functions nil)
704                (port (elpher-address-port address))
705                (service (if (> port 0) port default-port))
706                (host (elpher-address-host address))
707                (socks (or elpher-socks-always (string-suffix-p ".onion" host)))
708                (response-string-parts nil)
709                (bytes-received 0)
710                (hkbytes-received 0)
711                (timer (run-at-time elpher-connection-timeout nil
712                                    (lambda ()
713                                      (elpher-process-cleanup)
714                                      (cond
715                                         ; Try again with IPv4
716                                       ((not (or force-ipv4 socks))
717                                        (message "Connection timed out.  Retrying with IPv4.")
718                                        (elpher-get-host-response address default-port
719                                                                  query-string
720                                                                  response-processor
721                                                                  use-tls t))
722                                       ((and use-tls
723                                             (not (eq use-tls 'gemini))
724                                             (or elpher-auto-disengage-TLS
725                                                 (y-or-n-p
726                                                  "TLS connetion failed.  Disable TLS mode and retry? ")))
727                                        (setq elpher-use-tls nil)
728                                        (elpher-get-host-response address default-port
729                                                                  query-string
730                                                                  response-processor
731                                                                  nil force-ipv4))
732                                       (t
733                                        (elpher-network-error address "Connection time-out."))))))
734                (gnutls-params (list :type 'gnutls-x509pki :hostname host
735                                     :keylist (elpher-get-current-keylist address)))
736                (proc (if socks (socks-open-network-stream "elpher-process" nil host service)
737                        (make-network-process :name "elpher-process"
738                                              :host host
739                                              :family (and force-ipv4 'ipv4)
740                                              :service service
741                                              :buffer nil
742                                              :nowait t
743                                              :tls-parameters
744                                              (and use-tls
745                                                   (cons 'gnutls-x509pki
746                                                         (apply #'gnutls-boot-parameters
747                                                                gnutls-params)))))))
748           (setq elpher-network-timer timer)
749           (set-process-coding-system proc 'binary 'binary)
750           (set-process-query-on-exit-flag proc nil)
751           (elpher-buffer-message (concat "Connecting to " host "..."
752                                          " (press 'u' to abort)"))
753           (set-process-filter proc
754                               (lambda (_proc string)
755                                 (when timer
756                                   (cancel-timer timer)
757                                   (setq timer nil))
758                                 (setq bytes-received (+ bytes-received (length string)))
759                                 (let ((new-hkbytes-received (/ bytes-received 102400)))
760                                   (when (> new-hkbytes-received hkbytes-received)
761                                     (setq hkbytes-received new-hkbytes-received)
762                                     (elpher-buffer-message
763                                      (concat "("
764                                              (number-to-string (/ hkbytes-received 10.0))
765                                              " MB read)")
766                                      1)))
767                                 (setq response-string-parts
768                                       (cons string response-string-parts))))
769           (set-process-sentinel proc
770                                 (lambda (proc event)
771                                   (when timer
772                                     (cancel-timer timer))
773                                   (condition-case the-error
774                                       (cond
775                                        ((string-prefix-p "open" event)    ; request URL
776                                         (elpher-buffer-message
777                                          (concat "Connected to " host ". Receiving data..."
778                                                  " (press 'u' to abort)"))
779                                         (let ((inhibit-eol-conversion t))
780                                           (process-send-string proc query-string)))
781                                        ((string-prefix-p "deleted" event)) ; do nothing
782                                        ((and (not response-string-parts)
783                                              (not (or elpher-ipv4-always force-ipv4 socks)))
784                                         ; Try again with IPv4
785                                         (message "Connection failed. Retrying with IPv4.")
786                                         (elpher-get-host-response address default-port
787                                                                   query-string
788                                                                   response-processor
789                                                                   use-tls t))
790                                        (response-string-parts
791                                         (elpher-with-clean-buffer
792                                          (insert "Data received.  Rendering..."))
793                                         (funcall response-processor
794                                                  (apply #'concat (reverse response-string-parts)))
795                                         (elpher-restore-pos))
796                                        (t
797                                         (error "No response from server")))
798                                     (error
799                                      (elpher-network-error address the-error)))))
800           (when socks
801             (if use-tls (apply #'gnutls-negotiate :process proc gnutls-params))
802             (funcall (process-sentinel proc) proc "open\n")))
803       (error
804        (error "Error initiating connection to server")))))
805
806
807 ;;; Client-side TLS Certificate Management
808 ;;
809
810 (defun elpher-generate-certificate (common-name key-file cert-file &optional temporary)
811   "Generate a key and a self-signed client TLS certificate using openssl.
812
813 The Common Name field of the certificate is set to COMMON-NAME.  The
814 arguments KEY-FILE and CERT-FILE should contain the absolute paths of
815 the key and certificate files to write.
816
817 If TEMPORARY is non-nil, the certificate will be given an exporation
818 period of one day, and the key and certificate files will be deleted
819 when the certificate is no longer needed for the current session.
820
821 Otherwise, the certificate will be given a 100 year expiration period
822 and the files will not be deleted.
823
824 The function returns a list containing the current host name, the
825 temporary flag, and the key and cert file names in the form required
826 by `gnutls-boot-parameters`."
827   (let ((exp-key-file (expand-file-name key-file))
828         (exp-cert-file (expand-file-name cert-file)))
829     (condition-case nil
830         (progn
831           (call-process elpher-openssl-command nil nil nil
832                         "req" "-x509" "-newkey" "rsa:2048"
833                         "-days" (if temporary "1" "36500")
834                         "-nodes"
835                         "-subj" (concat "/CN=" common-name)
836                         "-keyout" exp-key-file
837                         "-out" exp-cert-file)
838           (list (elpher-address-host (elpher-page-address elpher-current-page))
839                 temporary exp-key-file exp-cert-file))
840       (error
841        (message "Check that openssl is installed, or customize `elpher-openssl-command`.")
842        (error "Program 'openssl', required for certificate generation, not found")))))
843
844 (defun elpher-generate-throwaway-certificate ()
845   "Generate and return details of a throwaway certificate.
846 The key and certificate files will be deleted when they are no
847 longer needed for this session."
848   (let* ((file-base (make-temp-name "elpher"))
849          (key-file (concat temporary-file-directory file-base ".key"))
850          (cert-file (concat temporary-file-directory file-base ".crt")))
851     (elpher-generate-certificate file-base key-file cert-file t)))
852
853 (defun elpher-generate-persistent-certificate (file-base common-name)
854   "Generate and return details of a persistent certificate.
855 The argument FILE-BASE is used as the base for the key and certificate
856 files, while COMMON-NAME specifies the common name field of the
857 certificate.
858
859 The key and certificate files are written to in `elpher-certificate-directory'."
860   (let* ((key-file (concat elpher-certificate-directory file-base ".key"))
861          (cert-file (concat elpher-certificate-directory file-base ".crt")))
862     (elpher-generate-certificate common-name key-file cert-file)))
863
864 (defun elpher-get-existing-certificate (file-base)
865   "Return a certificate object corresponding to an existing certificate.
866 It is assumed that the key files FILE-BASE.key and FILE-BASE.crt exist in
867 the directory `elpher-certificate-directory'."
868   (let* ((key-file (concat elpher-certificate-directory file-base ".key"))
869          (cert-file (concat elpher-certificate-directory file-base ".crt")))
870     (list (elpher-address-host (elpher-page-address elpher-current-page))
871           nil
872           (expand-file-name key-file)
873           (expand-file-name cert-file))))
874
875 (defun elpher-install-and-use-existing-certificate (key-file-src cert-file-src file-base)
876   "Install a key+certificate file pair in `elpher-certificate-directory'.
877 The strings KEY-FILE-SRC and CERT-FILE-SRC are the existing key and
878 certificate files to install.  The argument FILE-BASE is used as the
879 base for the installed key and certificate files."
880   (let* ((key-file (concat elpher-certificate-directory file-base ".key"))
881          (cert-file (concat elpher-certificate-directory file-base ".crt")))
882     (if (or (file-exists-p key-file)
883             (file-exists-p cert-file))
884         (error "A certificate with base name %s is already installed" file-base))
885     (copy-file key-file-src key-file)
886     (copy-file cert-file-src cert-file)
887     (list (elpher-address-host (elpher-page-address elpher-current-page))
888           nil
889           (expand-file-name key-file)
890           (expand-file-name cert-file))))
891
892 (defun elpher-list-existing-certificates ()
893   "Return a list of the persistent certificates in `elpher-certificate-directory'."
894   (unless (file-directory-p elpher-certificate-directory)
895     (make-directory elpher-certificate-directory))
896   (mapcar
897    (lambda (file)
898      (file-name-sans-extension file))
899    (directory-files elpher-certificate-directory nil "\\.key$")))
900
901 (defun elpher-forget-current-certificate ()
902   "Causes any current certificate to be forgotten.)
903 In the case of throwaway certificates, the key and certificate files
904 are also deleted."
905   (interactive)
906   (when elpher-client-certificate
907     (unless (and (called-interactively-p 'any)
908                  (not (y-or-n-p (concat "Really forget client certificate? "
909                                         "(Throwaway certificates will be deleted.)"))))
910       (when (cadr elpher-client-certificate)
911         (delete-file (elt elpher-client-certificate 2))
912         (delete-file (elt elpher-client-certificate 3)))
913       (setq elpher-client-certificate nil)
914       (if (called-interactively-p 'any)
915           (message "Client certificate forgotten.")))))
916
917 (defun elpher-get-current-keylist (address)
918   "Retrieve the `gnutls-boot-parameters'-compatable keylist.
919
920 This is obtained from the client certificate described by
921 `elpher-current-certificate', if one is available and the host for
922 that certificate matches the host in ADDRESS.
923
924 If `elpher-current-certificate' is non-nil, and its host name doesn't
925 match that of ADDRESS, the certificate is forgotten."
926   (if elpher-client-certificate
927       (if (string= (car elpher-client-certificate)
928                    (elpher-address-host address))
929           (list (cddr elpher-client-certificate))
930         (elpher-forget-current-certificate)
931         (message "Disabling client certificate for new host")
932         nil)
933     nil))
934
935
936 ;;; Gopher selector retrieval
937 ;;
938
939 (defun elpher-get-gopher-response (address renderer)
940   "Get response string from gopher server at ADDRESS and render using RENDERER."
941   (elpher-get-host-response address 70
942                             (concat (elpher-gopher-address-selector address) "\r\n")
943                             renderer
944                             (or (string= (elpher-address-protocol address) "gophers")
945                                 elpher-use-tls)))
946
947 (defun elpher-get-gopher-page (renderer)
948   "Getter function for gopher pages.
949 The RENDERER procedure is used to display the contents of the page
950 once they are retrieved from the gopher server."
951   (let* ((address (elpher-page-address elpher-current-page))
952          (content (elpher-get-cached-content address)))
953     (if (and content (funcall renderer nil))
954         (elpher-with-clean-buffer
955          (insert content)
956          (elpher-restore-pos))
957       (elpher-with-clean-buffer
958        (insert "LOADING... (use 'u' to cancel)\n"))
959       (condition-case the-error
960           (elpher-get-gopher-response address renderer)
961         (error
962          (elpher-network-error address the-error))))))
963
964 ;; Index rendering
965
966 (defun elpher-insert-index (string)
967   "Insert the index corresponding to STRING into the current buffer."
968   ;; Should be able to split directly on CRLF, but some non-conformant
969   ;; LF-only servers sadly exist, hence the following.
970   (let ((str-processed (elpher-preprocess-text-response string)))
971     (dolist (line (split-string str-processed "\n"))
972       (ignore-errors
973         (unless (= (length line) 0)
974           (let* ((type (elt line 0))
975                  (fields (split-string (substring line 1) "\t"))
976                  (display-string (elt fields 0))
977                  (selector (elt fields 1))
978                  (host (elt fields 2))
979                  (port (if (elt fields 3)
980                            (string-to-number (elt fields 3))
981                          nil))
982                  (address (elpher-make-gopher-address type selector host port)))
983             (elpher-insert-index-record display-string address)))))))
984
985 (defun elpher-insert-margin (&optional type-name)
986   "Insert index margin, optionally containing the TYPE-NAME, into the current buffer."
987   (if type-name
988       (progn
989         (insert (format (concat "%" (number-to-string (- elpher-margin-width 1)) "s")
990                         (concat
991                          (propertize "[" 'face 'elpher-margin-brackets)
992                          (propertize type-name 'face 'elpher-margin-key)
993                          (propertize "]" 'face 'elpher-margin-brackets))))
994         (insert " "))
995     (insert (make-string elpher-margin-width ?\s))))
996
997 (defun elpher--page-button-help (_window buffer pos)
998   "Function called by Emacs to generate mouse-over text.
999 The arguments specify the BUFFER and the POS within the buffer of the item
1000 for which help is required.  The function returns the help to be
1001 displayed.  The _WINDOW argument is currently unused."
1002   (with-current-buffer buffer
1003     (let ((button (button-at pos)))
1004       (when button
1005         (let* ((page (button-get button 'elpher-page))
1006                (address (elpher-page-address page)))
1007           (format "mouse-1, RET: open '%s'" (if (elpher-address-special-p address)
1008                                                 address
1009                                               (elpher-address-to-url address))))))))
1010
1011 (defvar elpher--link-number-counter 0
1012   "Used to number links on elpher pages.")
1013 (defun elpher-reset-link-number-counter ()
1014   "Reset the link number counter."
1015   (setq-local elpher--link-number-counter 0))
1016
1017 (defun elpher--insert-text-button (label &rest properties)
1018   "Insert a potentially-numbered button into the current buffer.
1019 The text for the button is provided by LABEL, while the button
1020 properties in PROPERTIES are as per `insert-text-button'."
1021
1022   (if elpher-number-links
1023       (setq-local elpher--link-number-counter (+ elpher--link-number-counter 1)))
1024   (let ((pref (if elpher-number-links
1025                   (concat "[" (number-to-string elpher--link-number-counter) "] ")
1026                 "")))
1027     (apply #'insert-text-button (cons (concat pref label) properties))))
1028
1029 (defun elpher-insert-index-record (display-string &optional address)
1030   "Function to insert an index record into the current buffer.
1031 The contents of the record are dictated by DISPLAY-STRING and ADDRESS.
1032 If ADDRESS is not supplied or nil the record is rendered as an
1033 'information' line."
1034   (let* ((type (if address (elpher-address-type address) nil))
1035          (type-map-entry (cdr (assoc type elpher-type-map))))
1036     (if type-map-entry
1037         (let* ((margin-code (elt type-map-entry 2))
1038                (face (elt type-map-entry 3))
1039                (filtered-display-string (elpher-color-filter-apply display-string))
1040                (page (elpher-make-page filtered-display-string address)))
1041           (elpher-insert-margin margin-code)
1042           (elpher--insert-text-button filtered-display-string
1043                                       'face face
1044                                       'elpher-page page
1045                                       'action #'elpher-click-link
1046                                       'follow-link t
1047                                       'help-echo #'elpher--page-button-help))
1048       (pcase type
1049         ('nil ;; Information
1050          (elpher-insert-margin)
1051          (let ((propertized-display-string
1052                 (propertize display-string 'face 'elpher-info)))
1053            (insert (elpher-process-text-for-display propertized-display-string))))
1054         (`(gopher ,selector-type) ;; Unknown
1055          (elpher-insert-margin (concat (char-to-string selector-type) "?"))
1056          (insert (propertize display-string
1057                              'face 'elpher-unknown)))))
1058     (insert "\n")))
1059
1060 (defun elpher-click-link (button)
1061   "Function called when the gopher link BUTTON is activated (via mouse or keypress)."
1062   (let ((page (button-get button 'elpher-page)))
1063     (elpher-visit-page page)))
1064
1065 (defun elpher-render-index (data &optional _mime-type-string)
1066   "Render DATA as an index.  MIME-TYPE-STRING is unused."
1067   (elpher-with-clean-buffer
1068    (if (not data)
1069        t
1070      (elpher-insert-index data)
1071      (elpher-cache-content (elpher-page-address elpher-current-page)
1072                            (buffer-string)))))
1073
1074 ;; Text rendering
1075
1076 (defconst elpher-url-regex
1077   "\\([a-zA-Z]+\\)://\\([a-zA-Z0-9.-]*[a-zA-Z0-9-]\\|\\[[a-zA-Z0-9:]+\\]\\)\\(:[0-9]+\\)?\\(/\\([0-9a-zA-Z_~?/@|:.%#=&-]*[0-9a-zA-Z_~?/@|#-]\\)?\\)?"
1078   "Regexp used to locate and buttinofy URLs in text files loaded by elpher.")
1079
1080 (defun elpher-buttonify-urls (string)
1081   "Turn substrings which look like urls in STRING into clickable buttons."
1082   (with-temp-buffer
1083     (insert string)
1084     (goto-char (point-min))
1085     (while (re-search-forward elpher-url-regex nil t)
1086       (let ((page (elpher-make-page (substring-no-properties (match-string 0))
1087                                     (elpher-address-from-url (match-string 0)))))
1088         (make-text-button (match-beginning 0)
1089                           (match-end 0)
1090                           'elpher-page  page
1091                           'action #'elpher-click-link
1092                           'follow-link t
1093                           'help-echo #'elpher--page-button-help
1094                           'face 'button)))
1095     (buffer-string)))
1096
1097 (defconst elpher-ansi-regex "\x1b\\[[^m]*m"
1098   "Incomplete regexp used to strip out some troublesome ANSI escape sequences.")
1099
1100 (defun elpher-process-text-for-display (string)
1101   "Perform any desired processing of STRING prior to display as text.
1102 Currently includes buttonifying URLs and processing ANSI escape codes."
1103   (elpher-buttonify-urls (if elpher-filter-ansi-from-text
1104                              (elpher-color-filter-apply string)
1105                            (elpher-color-apply string))))
1106
1107 (defun elpher-render-text (data &optional _mime-type-string)
1108   "Render DATA as text.  MIME-TYPE-STRING is unused."
1109   (elpher-with-clean-buffer
1110    (if (not data)
1111        t
1112      (insert (elpher-process-text-for-display (elpher-preprocess-text-response data)))
1113      (elpher-cache-content
1114       (elpher-page-address elpher-current-page)
1115       (buffer-string)))))
1116
1117 ;; Image retrieval
1118
1119 (defun elpher-render-image (data &optional _mime-type-string)
1120   "Display DATA as image.  MIME-TYPE-STRING is unused."
1121   (if (not data)
1122       nil
1123     (if (display-images-p)
1124         (progn
1125           (let ((image (create-image
1126                         data
1127                         nil t)))
1128             (elpher-with-clean-buffer
1129              (insert-image image)
1130              (elpher-restore-pos))))
1131       (elpher-render-download data))))
1132
1133 ;; Search retrieval and rendering
1134
1135 (defun elpher-get-gopher-query-page (renderer)
1136   "Getter for gopher addresses requiring input.
1137 The response is rendered using the rendering function RENDERER."
1138   (let* ((address (elpher-page-address elpher-current-page))
1139          (content (elpher-get-cached-content address))
1140          (aborted t))
1141     (if (and content (funcall renderer nil))
1142         (elpher-with-clean-buffer
1143          (insert content)
1144          (elpher-restore-pos)
1145          (message "Displaying cached search results.  Reload to perform a new search."))
1146       (unwind-protect
1147           (let* ((query-string (read-string "Query: "))
1148                  (query-selector (concat (elpher-gopher-address-selector address) "\t" query-string))
1149                  (search-address (elpher-make-gopher-address ?1
1150                                                              query-selector
1151                                                              (elpher-address-host address)
1152                                                              (elpher-address-port address)
1153                                                              (equal (elpher-address-type address) "gophers"))))
1154             (setq aborted nil)
1155
1156             (elpher-with-clean-buffer
1157              (insert "LOADING RESULTS... (use 'u' to cancel)"))
1158             (elpher-get-gopher-response search-address renderer))
1159         (if aborted
1160             (elpher-visit-previous-page))))))
1161
1162 ;; Raw server response rendering
1163
1164 (defun elpher-render-raw (data &optional mime-type-string)
1165   "Display raw DATA in buffer.  MIME-TYPE-STRING is also displayed if provided."
1166   (if (not data)
1167       nil
1168     (elpher-with-clean-buffer
1169      (when mime-type-string
1170        (insert "MIME type specified by server: '" mime-type-string "'\n"))
1171      (insert data)
1172      (goto-char (point-min)))
1173     (message "Displaying raw server response.  Reload or redraw to return to standard view.")))
1174
1175 ;; File save "rendering"
1176
1177 (defun elpher-render-download (data &optional _mime-type-string)
1178   "Save DATA to file.  MIME-TYPE-STRING is unused."
1179   (if (not data)
1180       nil
1181     (let* ((address (elpher-page-address elpher-current-page))
1182            (selector (if (elpher-address-gopher-p address)
1183                          (elpher-gopher-address-selector address)
1184                        (elpher-address-filename address))))
1185       (elpher-visit-previous-page) ; Do first in case of non-local exits.
1186       (let* ((filename-proposal (file-name-nondirectory selector))
1187              (filename (read-file-name "Download complete. Save file as: "
1188                                        nil nil nil
1189                                        (if (> (length filename-proposal) 0)
1190                                            filename-proposal
1191                                          "download.file"))))
1192         (let ((coding-system-for-write 'binary))
1193           (with-temp-file filename
1194             (insert data)))
1195         (message (format "Saved to file %s." filename))))))
1196
1197 ;; HTML rendering
1198
1199 (defun elpher-render-html (data &optional _mime-type-string)
1200   "Render DATA as HTML using shr.  MIME-TYPE-STRING is unused."
1201   (elpher-with-clean-buffer
1202    (if (not data)
1203        t
1204      (let ((dom (with-temp-buffer
1205                   (insert data)
1206                   (libxml-parse-html-region (point-min) (point-max)))))
1207        (shr-insert-document dom)))))
1208
1209 ;; Gemini page retrieval
1210
1211 (defvar elpher-gemini-redirect-chain)
1212
1213 (defun elpher-get-gemini-response (address renderer)
1214   "Get response string from gemini server at ADDRESS and render using RENDERER."
1215   (elpher-get-host-response address 1965
1216                             (concat (elpher-address-to-url address) "\r\n")
1217                             (lambda (response-string)
1218                               (elpher-process-gemini-response response-string renderer))
1219                             'gemini))
1220
1221 (defun elpher-parse-gemini-response (response)
1222   "Parse the RESPONSE string and return a list of components.
1223 The list is of the form (code meta body).  A response of nil implies
1224 that the response was malformed."
1225   (let ((header-end-idx (string-match "\r\n" response)))
1226     (if header-end-idx
1227         (let ((header (string-trim (substring response 0 header-end-idx)))
1228               (body (substring response (+ header-end-idx 2))))
1229           (if (>= (length header) 2)
1230               (let ((code (substring header 0 2))
1231                     (meta (string-trim (substring header 2))))
1232                 (list code meta body))
1233             (error "Malformed response: No response status found in header %s" header)))
1234       (error "Malformed response: No CRLF-delimited header found in response %s" response))))
1235
1236 (defun elpher-process-gemini-response (response-string renderer)
1237   "Process the gemini response RESPONSE-STRING and pass the result to RENDERER."
1238   (let ((response-components (elpher-parse-gemini-response response-string)))
1239     (let ((response-code (elt response-components 0))
1240           (response-meta (elt response-components 1))
1241           (response-body (elt response-components 2)))
1242       (pcase (elt response-code 0)
1243         (?1 ; Input required
1244          (elpher-with-clean-buffer
1245           (insert "Gemini server is requesting input."))
1246          (let* ((query-string
1247                  (if (eq (elt response-code 1) ?1)
1248                      (read-passwd (concat response-meta ": "))
1249                    (read-string (concat response-meta ": "))))
1250                 (query-address (seq-copy (elpher-page-address elpher-current-page)))
1251                 (old-fname (url-filename query-address)))
1252            (setf (url-filename query-address)
1253                  (concat old-fname "?" (url-build-query-string `((,query-string)))))
1254            (elpher-get-gemini-response query-address renderer)))
1255         (?2 ; Normal response
1256          (funcall renderer response-body response-meta))
1257         (?3 ; Redirect
1258          (message "Following redirect to %s" response-meta)
1259          (if (>= (length elpher-gemini-redirect-chain) 5)
1260              (error "More than 5 consecutive redirects followed"))
1261          (let ((redirect-address (elpher-address-from-gemini-url response-meta)))
1262            (if (member redirect-address elpher-gemini-redirect-chain)
1263                (error "Redirect loop detected"))
1264            (if (not (string= (elpher-address-protocol redirect-address)
1265                              "gemini"))
1266                (error "Server tried to automatically redirect to non-gemini URL: %s"
1267                       response-meta))
1268            (elpher-page-set-address elpher-current-page redirect-address)
1269            (add-to-list 'elpher-gemini-redirect-chain redirect-address)
1270            (elpher-get-gemini-response redirect-address renderer)))
1271         (?4 ; Temporary failure
1272          (error "Gemini server reports TEMPORARY FAILURE for this request: %s %s"
1273                 response-code response-meta))
1274         (?5 ; Permanent failure
1275          (error "Gemini server reports PERMANENT FAILURE for this request: %s %s"
1276                 response-code response-meta))
1277         (?6 ; Client certificate required
1278          (elpher-with-clean-buffer
1279           (if elpher-client-certificate
1280               (insert "Gemini server does not recognise the provided TLS certificate:\n\n")
1281             (insert "Gemini server is requesting a valid TLS certificate:\n\n"))
1282           (auto-fill-mode 1)
1283           (elpher-gemini-insert-text response-meta))
1284          (let ((chosen-certificate (elpher-choose-client-certificate)))
1285            (unless chosen-certificate
1286              (error "Gemini server requires a client certificate and none was provided"))
1287            (setq elpher-client-certificate chosen-certificate))
1288          (elpher-with-clean-buffer)
1289          (elpher-get-gemini-response (elpher-page-address elpher-current-page) renderer))
1290         (_other
1291          (error "Gemini server response unknown: %s %s"
1292                 response-code response-meta))))))
1293
1294 (defun elpher--read-answer-polyfill (question answers)
1295   "Polyfill for `read-answer' in Emacs 26.1.
1296 QUESTION is a string containing a question, and ANSWERS
1297 is a list of possible answers."
1298     (completing-read question (mapcar 'identity answers)))
1299
1300 (if (fboundp 'read-answer)
1301     (defalias 'elpher-read-answer 'read-answer)
1302   (defalias 'elpher-read-answer 'elpher--read-answer-polyfill))
1303
1304 (defun elpher-choose-client-certificate ()
1305   "Prompt for a client certificate to use to establish a TLS connection."
1306   (let* ((read-answer-short t))
1307     (pcase (read-answer "What do you want to do? "
1308                         '(("throwaway" ?t
1309                            "generate and use throw-away certificate")
1310                           ("persistent" ?p
1311                            "generate new or use existing persistent certificate")
1312                           ("abort" ?a
1313                            "stop immediately")))
1314       ("throwaway"
1315        (setq elpher-client-certificate (elpher-generate-throwaway-certificate)))
1316       ("persistent"
1317        (let* ((existing-certificates (elpher-list-existing-certificates))
1318               (file-base (completing-read
1319                           "Nickname for new or existing certificate (autocompletes, empty response aborts): "
1320                           existing-certificates)))
1321          (if (string-empty-p (string-trim file-base))
1322              nil
1323            (if (member file-base existing-certificates)
1324                (setq elpher-client-certificate
1325                      (elpher-get-existing-certificate file-base))
1326              (pcase (read-answer "Generate new certificate or install externally-generated one? "
1327                                  '(("new" ?n
1328                                     "generate new certificate")
1329                                    ("install" ?i
1330                                     "install existing certificate")
1331                                    ("abort" ?a
1332                                     "stop immediately")))
1333                ("new"
1334                 (let ((common-name (read-string "Common Name field for new certificate: "
1335                                                 file-base)))
1336                   (message "New key and self-signed certificate written to %s"
1337                            elpher-certificate-directory)
1338                   (elpher-generate-persistent-certificate file-base common-name)))
1339                ("install"
1340                 (let* ((cert-file (read-file-name "Certificate file: " nil nil t))
1341                        (key-file (read-file-name "Key file: " nil nil t)))
1342                   (message "Key and certificate installed in %s for future use"
1343                            elpher-certificate-directory)
1344                   (elpher-install-and-use-existing-certificate key-file
1345                                                                cert-file
1346                                                                file-base)))
1347                ("abort" nil))))))
1348       ("abort" nil))))
1349
1350 (defun elpher-get-gemini-page (renderer)
1351   "Getter which retrieves and renders a Gemini page and renders it using RENDERER."
1352   (let* ((address (elpher-page-address elpher-current-page))
1353          (content (elpher-get-cached-content address)))
1354     (condition-case the-error
1355         (if (and content (funcall renderer nil))
1356             (elpher-with-clean-buffer
1357              (insert content)
1358              (elpher-restore-pos))
1359           (elpher-with-clean-buffer
1360            (insert "LOADING GEMINI... (use 'u' to cancel)\n"))
1361           (setq elpher-gemini-redirect-chain nil)
1362           (elpher-get-gemini-response address renderer))
1363       (error
1364        (elpher-network-error address the-error)))))
1365
1366 (defun elpher-render-gemini (body &optional mime-type-string)
1367   "Render gemini response BODY with rendering MIME-TYPE-STRING."
1368   (if (not body)
1369       t
1370     (let* ((mime-type-string* (if (or (not mime-type-string)
1371                                       (string-empty-p mime-type-string))
1372                                   "text/gemini; charset=utf-8"
1373                                 mime-type-string))
1374            (mime-type-split (split-string mime-type-string* ";" t))
1375            (mime-type (string-trim (car mime-type-split)))
1376            (parameters (mapcar (lambda (s)
1377                                  (let ((key-val (split-string s "=")))
1378                                    (list (downcase (string-trim (car key-val)))
1379                                          (downcase (string-trim (cadr key-val))))))
1380                                (cdr mime-type-split))))
1381       (when (string-prefix-p "text/" mime-type)
1382         (setq body (decode-coding-string
1383                     body
1384                     (if (assoc "charset" parameters)
1385                         (intern (cadr (assoc "charset" parameters)))
1386                       'utf-8)))
1387         (setq body (replace-regexp-in-string "\r" "" body)))
1388       (pcase mime-type
1389         ((or "text/gemini" "")
1390          (elpher-render-gemini-map body parameters))
1391         ("text/html"
1392          (elpher-render-html body))
1393         ((pred (string-prefix-p "text/"))
1394          (elpher-render-gemini-plain-text body parameters))
1395         ((pred (string-prefix-p "image/"))
1396          (elpher-render-image body))
1397         (_other
1398          (elpher-render-download body))))))
1399
1400 (defun elpher-gemini-get-link-url (link-line)
1401   "Extract the url portion of LINK-LINE, a gemini map file link line.
1402 Returns nil in the event that the contents of the line following the
1403 => prefix are empty."
1404   (let ((l (split-string (substring link-line 2))))
1405     (if l
1406         (string-trim (elt l 0))
1407       nil)))
1408
1409 (defun elpher-gemini-get-link-display-string (link-line)
1410   "Extract the display string portion of LINK-LINE, a gemini map file link line.
1411 Returns the url portion in the event that the display-string portion is empty."
1412   (let* ((rest (string-trim (elt (split-string link-line "=>") 1)))
1413          (idx (string-match "[ \t]" rest)))
1414     (string-trim (if idx
1415                      (substring rest (+ idx 1))
1416                    rest))))
1417
1418 (defun elpher-collapse-dot-sequences (filename)
1419   "Collapse dot sequences in FILENAME.
1420 For instance, the filename /a/b/../c/./d will reduce to /a/c/d"
1421   (let* ((path (split-string filename "/"))
1422          (path-reversed-normalized
1423           (seq-reduce (lambda (a b)
1424                         (cond ((and a (equal b "..") (cdr a)))
1425                               ((and (not a) (equal b "..")) a) ;leading .. are dropped
1426                               ((equal b ".") a)
1427                               (t (cons b a))))
1428                       path nil)))
1429     (string-join (reverse path-reversed-normalized) "/")))
1430
1431 (defun elpher-address-from-gemini-url (url)
1432   "Extract address from URL with defaults as per gemini map files.
1433 While there's obviously some redundancy here between this function and
1434 `elpher-address-from-url', gemini map file URLs require enough special
1435 treatment that a separate function is warranted."
1436   (let ((address (url-generic-parse-url url))
1437         (current-address (elpher-page-address elpher-current-page)))
1438     (unless (and (url-type address) (not (url-fullness address))) ;avoid mangling mailto: urls
1439       (setf (url-fullness address) t)
1440       (if (url-host address) ;if there is an explicit host, filenames are absolute
1441           (if (string-empty-p (url-filename address))
1442               (setf (url-filename address) "/")) ;ensure empty filename is marked as absolute
1443         (setf (url-host address) (url-host current-address))
1444         (setf (url-port address) (url-port current-address))
1445         (unless (string-prefix-p "/" (url-filename address)) ;deal with relative links
1446           (setf (url-filename address)
1447                 (concat (file-name-directory (url-filename current-address))
1448                         (url-filename address)))))
1449       (unless (url-type address)
1450         (setf (url-type address) "gemini"))
1451       (when (equal (url-type address) "gemini")
1452         (setf (url-filename address)
1453               (elpher-collapse-dot-sequences (url-filename address)))))
1454     (elpher-remove-redundant-ports address)))
1455
1456 (defun elpher-gemini-insert-link (link-line)
1457   "Insert link described by LINK-LINE into a text/gemini document."
1458   (let* ((url (elpher-gemini-get-link-url link-line))
1459          (display-string (elpher-gemini-get-link-display-string link-line))
1460          (address (elpher-address-from-gemini-url url))
1461          (type (if address (elpher-address-type address) nil))
1462          (type-map-entry (cdr (assoc type elpher-type-map))))
1463     (when display-string
1464       (insert elpher-gemini-link-string)
1465       (if type-map-entry
1466           (let* ((face (elt type-map-entry 3))
1467                  (filtered-display-string (elpher-color-filter-apply display-string))
1468                  (page (elpher-make-page filtered-display-string address)))
1469             (elpher--insert-text-button filtered-display-string
1470                                         'face face
1471                                         'elpher-page page
1472                                         'action #'elpher-click-link
1473                                         'follow-link t
1474                                         'help-echo #'elpher--page-button-help))
1475         (insert (propertize display-string 'face 'elpher-unknown)))
1476       (insert "\n"))))
1477
1478 (defun elpher-gemini-insert-header (header-line)
1479   "Insert header described by HEADER-LINE into a text/gemini document.
1480 The gemini map file line describing the header is given
1481 by HEADER-LINE."
1482   (when (string-match "^\\(#+\\)[ \t]*" header-line)
1483     (let* ((level (length (match-string 1 header-line)))
1484            (header (substring header-line (match-end 0)))
1485            (face (pcase level
1486                    (1 'elpher-gemini-heading1)
1487                    (2 'elpher-gemini-heading2)
1488                    (3 'elpher-gemini-heading3)
1489                    (_ 'default)))
1490            (fill-column (if (display-graphic-p)
1491                             (/ (* fill-column
1492                                   (font-get (font-spec :name (face-font 'default)) :size))
1493                                (font-get (font-spec :name (face-font face)) :size)) fill-column)))
1494       (setq elpher--gemini-page-headings (cons (cons header (point))
1495                                                elpher--gemini-page-headings))
1496       (unless (display-graphic-p)
1497         (insert (make-string level ?#) " "))
1498       (insert (propertize header 'face face))
1499       (newline))))
1500
1501 (defun elpher-gemini-insert-text (text-line)
1502   "Insert a plain non-preformatted TEXT-LINE into a text/gemini document.
1503 This function uses Emacs' auto-fill to wrap text sensibly to a maximum
1504 width defined by `elpher-gemini-max-fill-width'."
1505   (string-match "\\(^[ \t]*\\)\\(\\*[ \t]+\\|>[ \t]*\\)?" text-line)
1506   (let* ((line-prefix (match-string 2 text-line))
1507          (processed-text-line
1508           (if line-prefix
1509               (cond ((string-prefix-p "*" line-prefix)
1510                      (concat
1511                       (replace-regexp-in-string "\\*"
1512                                                 elpher-gemini-bullet-string
1513                                                 (match-string 0 text-line))
1514                       (substring text-line (match-end 0))))
1515                     ((string-prefix-p ">" line-prefix)
1516                      (propertize text-line 'face 'elpher-gemini-quoted))
1517                     (t text-line))
1518             text-line))
1519          (adaptive-fill-mode t)
1520          ;; fill-prefix is important for adaptive-fill-mode: without
1521          ;; it, multi-line list items are not indented correct
1522          (fill-prefix (if (match-string 2 text-line)
1523                           (replace-regexp-in-string "[>\*]" " " (match-string 0 text-line))
1524                         nil)))
1525     (insert (elpher-process-text-for-display processed-text-line))
1526     (newline)))
1527
1528 (defun elpher-render-gemini-map (data _parameters)
1529   "Render DATA as a gemini map file, PARAMETERS is currently unused."
1530   (elpher-with-clean-buffer
1531    (setq elpher--gemini-page-headings nil)
1532    (let ((preformatted nil))
1533      (auto-fill-mode 1)
1534      (setq-local fill-column (min (window-width) elpher-gemini-max-fill-width))
1535      (dolist (line (split-string data "\n"))
1536        (cond
1537         ((string-prefix-p "```" line) (setq preformatted (not preformatted)))
1538         (preformatted (insert (elpher-process-text-for-display
1539                                (propertize line 'face 'elpher-gemini-preformatted))
1540                               "\n"))
1541         ((string-prefix-p "=>" line)
1542          (elpher-gemini-insert-link line))
1543         ((string-prefix-p "#" line) (elpher-gemini-insert-header line))
1544         (t (elpher-gemini-insert-text line)))))
1545    (setq elpher--gemini-page-headings (nreverse elpher--gemini-page-headings))
1546    (elpher-cache-content
1547     (elpher-page-address elpher-current-page)
1548     (buffer-string))))
1549
1550 (defun elpher-render-gemini-plain-text (data _parameters)
1551   "Render DATA as plain text file.  PARAMETERS is currently unused."
1552   (elpher-with-clean-buffer
1553    (insert (elpher-process-text-for-display data))
1554    (elpher-cache-content
1555     (elpher-page-address elpher-current-page)
1556     (buffer-string))))
1557
1558
1559 ;; Finger page connection
1560
1561 (defun elpher-get-finger-page (renderer)
1562   "Opens a finger connection to the current page address.
1563 The result is rendered using RENDERER."
1564   (let* ((address (elpher-page-address elpher-current-page))
1565          (content (elpher-get-cached-content address)))
1566     (if (and content (funcall renderer nil))
1567         (elpher-with-clean-buffer
1568          (insert content)
1569          (elpher-restore-pos))
1570       (elpher-with-clean-buffer
1571        (insert "LOADING... (use 'u' to cancel)\n"))
1572       (condition-case the-error
1573           (let* ((kill-buffer-query-functions nil)
1574                  (user (let ((filename (elpher-address-filename address)))
1575                          (if (> (length filename) 1)
1576                              (substring filename 1)
1577                            (elpher-address-user address)))))
1578             (elpher-get-host-response address 79
1579                                       (concat user "\r\n")
1580                                       renderer))
1581         (error
1582          (elpher-network-error address the-error))))))
1583
1584
1585 ;; Telnet page connection
1586
1587 (defun elpher-get-telnet-page (renderer)
1588   "Opens a telnet connection to the current page address (RENDERER must be nil)."
1589   (when renderer
1590     (elpher-visit-previous-page)
1591     (error "Command not supported for telnet URLs"))
1592   (let* ((address (elpher-page-address elpher-current-page))
1593          (host (elpher-address-host address))
1594          (port (elpher-address-port address)))
1595     (elpher-visit-previous-page)
1596     (if (> port 0)
1597         (telnet host port)
1598       (telnet host))))
1599
1600
1601 ;; Other URL page opening
1602
1603 (defun elpher-get-other-url-page (renderer)
1604   "Getter which attempts to open the URL specified by the current page (RENDERER must be nil)."
1605   (when renderer
1606     (elpher-visit-previous-page)
1607     (error "Command not supported for general URLs"))
1608   (let* ((address (elpher-page-address elpher-current-page))
1609          (url (elpher-address-to-url address)))
1610     (progn
1611       (elpher-visit-previous-page) ; Do first in case of non-local exits.
1612       (message "Opening URL...")
1613       (if elpher-open-urls-with-eww
1614           (browse-web url)
1615         (browse-url url)))))
1616
1617
1618 ;; Start page page retrieval
1619
1620 (defun elpher-get-start-page (renderer)
1621   "Getter which displays the start page (RENDERER must be nil)."
1622   (when renderer
1623     (elpher-visit-previous-page)
1624     (error "Command not supported for start page"))
1625   (elpher-with-clean-buffer
1626    (insert "     --------------------------------------------\n"
1627            "           Elpher Gopher and Gemini Client       \n"
1628            "                   version " elpher-version "\n"
1629            "     --------------------------------------------\n"
1630            "\n"
1631            "Default bindings:\n"
1632            "\n"
1633            " - TAB/Shift-TAB: next/prev item on current page\n"
1634            " - RET/mouse-1: open item under cursor\n"
1635            " - m/M: select an item on current page by name (autocompletes) or number\n"
1636            " - u/mouse-3/U: return to previous page or to the start page\n"
1637            " - o/O: visit different selector or the root menu of the current server\n"
1638            " - g: go to a particular address (gopher, gemini, finger)\n"
1639            " - d/D: download item under cursor or current page\n"
1640            " - i/I: info on item under cursor or current page\n"
1641            " - c/C: copy URL representation of item under cursor or current page\n"
1642            " - a/A: bookmark the item under cursor or current page\n"
1643            " - B: list all bookmarks\n"
1644            " - s/S: show history of current buffer or for all buffers\n"
1645            " - r: redraw current page (using cached contents if available)\n"
1646            " - R: reload current page (regenerates cache)\n"
1647            " - !: set character coding system for gopher (default is to autodetect)\n"
1648            " - T: toggle TLS gopher mode\n"
1649            " - F: forget/discard current TLS client certificate\n"
1650            " - .: display the raw server response for the current page\n"
1651            "\n"
1652            "Start your exploration of gopher space and gemini:\n")
1653    (elpher-insert-index-record "Floodgap Systems Gopher Server"
1654                                (elpher-make-gopher-address ?1 "" "gopher.floodgap.com" 70))
1655    (elpher-insert-index-record "Project Gemini home page"
1656                                (elpher-address-from-url "gemini://gemini.circumlunar.space/"))
1657    (insert "\n"
1658            "Alternatively, select a search engine and enter some search terms:\n")
1659    (elpher-insert-index-record "Gopher Search Engine (Veronica-2)"
1660                                (elpher-make-gopher-address ?7 "/v2/vs" "gopher.floodgap.com" 70))
1661    (elpher-insert-index-record "Gemini Search Engine (geminispace.info)"
1662                                (elpher-address-from-url "gemini://geminispace.info/search"))
1663    (insert "\n"
1664            "Your bookmarks are stored in your ")
1665    (let ((help-string "RET,mouse-1: Open Emacs bookmark list"))
1666      (elpher--insert-text-button "Emacs bookmark list"
1667                                 'face 'link
1668                                 'action (lambda (_)
1669                                           (interactive)
1670                                           (call-interactively #'bookmark-bmenu-list))
1671                                 'follow-link t
1672                                 'help-echo help-string))
1673    (insert ".\n")
1674    (insert (propertize
1675             "(Bookmarks from legacy elpher-bookmarks files will be automatically imported.)\n"
1676             'face 'shadow))
1677    (insert "\n"
1678            "For Elpher release news or to leave feedback, visit:\n")
1679    (elpher-insert-index-record "The Elpher Project Page"
1680                                (elpher-make-gopher-address ?1
1681                                                            "/projects/elpher/"
1682                                                            "thelambdalab.xyz"
1683                                                            70))
1684    (insert "\n"
1685            "** Refer to the ")
1686    (let ((help-string "RET,mouse-1: Open Elpher info manual (if available)"))
1687      (elpher--insert-text-button "Elpher info manual"
1688                                  'face 'link
1689                                  'action (lambda (_)
1690                                            (interactive)
1691                                            (info "(elpher)"))
1692                                  'follow-link t
1693                                  'help-echo help-string))
1694    (insert " for the full documentation. **\n")
1695    (insert (propertize
1696             (concat "  (This should be available if you have installed Elpher using\n"
1697                     "   MELPA. Otherwise you will have to install the manual yourself.)\n")
1698             'face 'shadow))
1699    (elpher-restore-pos)))
1700
1701 ;; History page retrieval
1702
1703 (defun elpher-history ()
1704   "Show the history of pages leading to the current page in this buffer.
1705 Use \\[elpher-history-all] to see the entire history.
1706 This is rendered using `elpher-get-history-page' via `elpher-type-map'."
1707   (interactive)
1708   (elpher-visit-page
1709    (elpher-make-page "Elpher History Page"
1710                      (elpher-make-special-address 'history))))
1711
1712 (defun elpher-history-all ()
1713   "Show the all the pages you've visited using Elpher.
1714 Use \\[elpher-history] to see just the history for the current buffer.
1715 This is rendered using `elpher-get-history-all-page' via `elpher-type-map'."
1716   (interactive)
1717   (elpher-visit-page
1718    (elpher-make-page "Elpher History Of All Seen Pages"
1719                      (elpher-make-special-address 'history-all))))
1720
1721 (defun elpher-get-history-page (renderer)
1722   "Getter which displays the history page (RENDERER must be nil)."
1723   (when renderer
1724     (elpher-visit-previous-page)
1725     (error "Command not supported for history page"))
1726   (elpher-show-history elpher-history))
1727
1728 (defun elpher-get-history-all-page (renderer)
1729   "Getter which displays the history page (RENDERER must be nil)."
1730   (when renderer
1731     (elpher-visit-previous-page)
1732     (error "Command not supported for history page"))
1733   (elpher-show-history elpher-history-all))
1734
1735 (defun elpher-show-history (pages)
1736   "Show all PAGES in the Elpher buffer."
1737   (elpher-with-clean-buffer
1738    (insert "---- Visited link history ----\n\n")
1739    (if pages
1740        (dolist (page pages)
1741          (when page
1742            (let ((display-string (elpher-page-display-string page))
1743                  (address (elpher-page-address page)))
1744              (elpher-insert-index-record display-string address))))
1745      (insert "No history items found.\n"))
1746    (insert "\n----------------------------")))
1747
1748
1749 ;;; Bookmarks
1750
1751 ;; This code allows Elpher to use the standard Emacs bookmarks: `C-x r
1752 ;; m' to add a bookmark, `C-x r l' to list bookmarks (which is where
1753 ;; you can anotate bookmarks!), `C-x r b' to jump to a bookmark, and
1754 ;; so on. See the Bookmarks section in the Emacs info manual for more.
1755
1756 (defvar elpher-bookmark-link nil
1757   "Prefer bookmarking a link or the current page.
1758 Bind this variable dynamically, or set it to t.
1759 If you set it to t, the commands \\[bookmark-set-no-overwrite]
1760 and \\[elpher-set-bookmark-no-overwrite] do the same thing.")
1761
1762 (defun elpher-bookmark-make-record ()
1763   "Return a bookmark record.
1764 If `elpher-bookmark-link' is non-nil and point is on a link button,
1765 return a bookmark record for that link.  Otherwise, return a bookmark
1766 record for the current elpher page."
1767   (let* ((button (and elpher-bookmark-link (button-at (point))))
1768          (page (if button
1769                    (button-get button 'elpher-page)
1770                  elpher-current-page))
1771          (address (elpher-page-address page))
1772          (url (elpher-address-to-url address))
1773          (display-string (elpher-page-display-string page))
1774          (pos (if button nil (point))))
1775     (if (elpher-address-special-p address)
1776         (error "Cannot bookmark %s" display-string)
1777       `(,display-string
1778         (defaults . (,display-string))
1779         (position . ,pos)
1780         (location . ,url)
1781         (handler . elpher-bookmark-jump)))))
1782
1783 ;;;###autoload
1784 (defun elpher-bookmark-jump (bookmark)
1785   "Go to a particular BOOKMARK."
1786   (let* ((url (cdr (assq 'location bookmark))))
1787     (elpher-go url)))
1788
1789 (defun elpher-set-bookmark-no-overwrite ()
1790   "Bookmark the link at point.
1791 To bookmark the current page, use \\[bookmark-set-no-overwrite]."
1792   (interactive)
1793   (let ((elpher-bookmark-link t))
1794     (bookmark-set-no-overwrite)))
1795
1796 (defun elpher-bookmark-import (file)
1797   "Import Elpher bookmarks file FILE into Emacs bookmarks."
1798   (interactive (list (if (and (boundp 'elpher-bookmarks-file)
1799                               (file-readable-p elpher-bookmarks-file))
1800                          elpher-bookmarks-file
1801                        (read-file-name "Old Elpher bookmarks: "
1802                                        user-emacs-directory nil t
1803                                        "elpher-bookmarks"))))
1804   (require 'bookmark)
1805   (dolist (bookmark (with-temp-buffer
1806                       (insert-file-contents file)
1807                       (read (current-buffer))))
1808     (let* ((display-string (car bookmark))
1809            (url (cadr bookmark))
1810            (record `(,display-string
1811                      (location . ,url)
1812                      (handler . elpher-bookmark-jump))))
1813       (bookmark-store display-string (cdr record) t)))
1814   (bookmark-save))
1815
1816 ;;; Integrations
1817 ;;
1818
1819 ;;; Org
1820
1821 ;; Avoid byte compilation warnings.
1822 (eval-when-compile
1823   (declare-function org-link-store-props "ol")
1824   (declare-function org-link-set-parameters "ol"))
1825
1826 (defun elpher-org-export-link (link description format protocol)
1827   "Export a LINK with DESCRIPTION for the given PROTOCOL and FORMAT.
1828
1829 FORMAT is an Org export backend.  DESCRIPTION may be nil.  PROTOCOL may be one
1830 of gemini, gopher or finger."
1831   (let* ((url (if (equal protocol "elpher")
1832                   (string-remove-prefix "elpher:" link)
1833                 (format "%s:%s" protocol link)))
1834          (desc (or description url)))
1835     (pcase format
1836       (`gemini (format "=> %s %s" url desc))
1837       (`html (format "<a href=\"%s\">%s</a>" url desc))
1838       (`latex (format "\\href{%s}{%s}" url desc))
1839       (_ (if (not description)
1840              url
1841            (format "%s (%s)" desc url))))))
1842
1843 (defun elpher-org-store-link ()
1844   "Store link to an `elpher' page in Org."
1845   (when (eq major-mode 'elpher-mode)
1846     (let* ((url (elpher-info-current))
1847            (desc (car elpher-current-page))
1848            (protocol (cond
1849                       ((string-prefix-p "gemini:" url) "gemini")
1850                       ((string-prefix-p "gopher:" url) "gopher")
1851                       ((string-prefix-p "finger:" url) "finger")
1852                       (t "elpher"))))
1853       (when (equal "elpher" protocol)
1854         ;; Weird link. Or special inner link?
1855         (setq url (concat "elpher:" url)))
1856       (org-link-store-props :type protocol :link url :description desc)
1857       t)))
1858
1859 (defun elpher-org-follow-link (link protocol)
1860   "Visit a LINK for the given PROTOCOL.
1861
1862 PROTOCOL may be one of gemini, gopher or finger.  This method also
1863 supports the old protocol elpher, where the link is self-contained."
1864   (let ((url (if (equal protocol "elpher")
1865                  (string-remove-prefix "elpher:" link)
1866                (format "%s:%s" protocol link))))
1867     (elpher-go url)))
1868
1869 (with-eval-after-load 'org
1870   (org-link-set-parameters
1871    "elpher"
1872    :store #'elpher-org-store-link
1873    :export (lambda (link description format _plist)
1874              (elpher-org-export-link link description format "elpher"))
1875    :follow (lambda (link _arg) (elpher-org-follow-link link "elpher")))
1876   (org-link-set-parameters
1877    "gemini"
1878    :export (lambda (link description format _plist)
1879              (elpher-org-export-link link description format "gemini"))
1880    :follow (lambda (link _arg) (elpher-org-follow-link link "gemini")))
1881   (org-link-set-parameters
1882    "gopher"
1883    :export (lambda (link description format _plist)
1884              (elpher-org-export-link link description format "gopher"))
1885    :follow (lambda (link _arg) (elpher-org-follow-link link "gopher")))
1886   (org-link-set-parameters
1887    "finger"
1888    :export (lambda (link description format _plist)
1889              (elpher-org-export-link link description format "finger"))
1890    :follow (lambda (link _arg) (elpher-org-follow-link link "finger"))))
1891
1892 ;;; Browse URL
1893
1894 ;; Avoid byte compilation warnings.
1895 (eval-when-compile
1896   (defvar thing-at-point-uri-schemes))
1897
1898 ;;;###autoload
1899 (defun elpher-browse-url-elpher (url &rest _args)
1900   "Browse URL using Elpher.  This function is used by `browse-url'."
1901   (interactive (browse-url-interactive-arg "Elpher URL: "))
1902   (elpher-go url))
1903
1904 ;; Use elpher to open gopher, finger and gemini links
1905 ;; For recent version of `browse-url' package
1906 (if (boundp 'browse-url-default-handlers)
1907     (add-to-list
1908      'browse-url-default-handlers
1909      '("^\\(gopher\\|finger\\|gemini\\)://" . elpher-browse-url-elpher))
1910   ;; Patch `browse-url-browser-function' for older ones. The value of
1911   ;; that variable is `browse-url-default-browser' by default, so
1912   ;; that's the function that gets advised.
1913   (advice-add browse-url-browser-function :before-while
1914               (lambda (url &rest _args)
1915                 "Handle gemini, gopher, and finger schemes using Elpher."
1916                 (let ((scheme (downcase (car (split-string url ":" t)))))
1917                   (if (member scheme '("gemini" "gopher" "finger"))
1918                       ;; `elpher-go' always returns nil, which will stop the
1919                       ;; advice chain here in a before-while
1920                       (elpher-go url)
1921                     ;; chain must continue, then return t.
1922                     t)))))
1923
1924 ;; Register "gemini://" as a URI scheme so `browse-url' does the right thing
1925 (with-eval-after-load 'thingatpt
1926   (add-to-list 'thing-at-point-uri-schemes "gemini://"))
1927
1928 ;;; Mu4e:
1929
1930 (eval-when-compile
1931   (defvar mu4e~view-beginning-of-url-regexp))
1932
1933 (with-eval-after-load 'mu4e-view
1934   ;; Make mu4e aware of the gemini world
1935   (setq mu4e~view-beginning-of-url-regexp
1936         "\\(?:https?\\|gopher\\|finger\\|gemini\\)://\\|mailto:"))
1937
1938 ;;; Interactive procedures
1939 ;;
1940
1941 (defun elpher-next-link ()
1942   "Move point to the next link on the current page."
1943   (interactive)
1944   (forward-button 1))
1945
1946 (defun elpher-prev-link ()
1947   "Move point to the previous link on the current page."
1948   (interactive)
1949   (backward-button 1))
1950
1951 (defun elpher-follow-current-link ()
1952   "Open the link or url at point."
1953   (interactive)
1954   (push-button))
1955
1956 ;;;###autoload
1957 (defun elpher-go (host-or-url)
1958   "Go to a particular gopher site HOST-OR-URL.
1959 When run interactively HOST-OR-URL is read from the minibuffer."
1960   (interactive "sGopher or Gemini URL: ")
1961   (let* ((cleaned-host-or-url (string-trim host-or-url))
1962          (address (elpher-address-from-url cleaned-host-or-url))
1963          (page (elpher-make-page cleaned-host-or-url address)))
1964     (switch-to-buffer elpher-buffer-name)
1965     (elpher-with-clean-buffer
1966      (elpher-visit-page page))
1967     nil))
1968
1969 (defun elpher-go-current ()
1970   "Go to a particular site read from the minibuffer, initialized with the current URL."
1971   (interactive)
1972   (let ((address (elpher-page-address elpher-current-page)))
1973     (let ((url (read-string "Gopher or Gemini URL: "
1974                             (unless (elpher-address-special-p address)
1975                               (elpher-address-to-url address)))))
1976       (elpher-visit-page (elpher-make-page url (elpher-address-from-url url))))))
1977
1978 (defun elpher-redraw ()
1979   "Redraw current page."
1980   (interactive)
1981   (elpher-visit-page elpher-current-page))
1982
1983 (defun elpher-reload ()
1984   "Reload current page."
1985   (interactive)
1986   (elpher-reload-current-page))
1987
1988 (defun elpher-toggle-tls ()
1989   "Toggle TLS encryption mode for gopher."
1990   (interactive)
1991   (setq elpher-use-tls (not elpher-use-tls))
1992   (if elpher-use-tls
1993       (if (gnutls-available-p)
1994           (message "TLS gopher mode enabled.  (Will not affect current page until reload.)")
1995         (setq elpher-use-tls nil)
1996         (error "Cannot enable TLS gopher mode: GnuTLS not available"))
1997     (message "TLS gopher mode disabled.  (Will not affect current page until reload.)")))
1998
1999 (defun elpher-view-raw ()
2000   "View raw server response for current page."
2001   (interactive)
2002   (if (elpher-address-special-p (elpher-page-address elpher-current-page))
2003       (error "This page was not generated by a server")
2004     (elpher-visit-page elpher-current-page
2005                        #'elpher-render-raw)))
2006
2007 (defun elpher-back ()
2008   "Go to previous site."
2009   (interactive)
2010   (elpher-visit-previous-page))
2011
2012 (defun elpher-back-to-start ()
2013   "Go all the way back to the start page."
2014   (interactive)
2015   (setq-local elpher-current-page nil)
2016   (setq-local elpher-history nil)
2017   (elpher-visit-page (elpher-make-start-page)))
2018
2019 (defun elpher-download ()
2020   "Download the link at point."
2021   (interactive)
2022   (let ((button (button-at (point))))
2023     (if button
2024         (let ((page (button-get button 'elpher-page)))
2025           (if (elpher-address-special-p (elpher-page-address page))
2026               (error "Cannot download %s"
2027                      (elpher-page-display-string page))
2028             (elpher-visit-page (button-get button 'elpher-page)
2029                                #'elpher-render-download)))
2030       (error "No link selected"))))
2031
2032 (defun elpher-download-current ()
2033   "Download the current page."
2034   (interactive)
2035   (if (elpher-address-special-p (elpher-page-address elpher-current-page))
2036       (error "Cannot download %s"
2037              (elpher-page-display-string elpher-current-page))
2038     (elpher-visit-page (elpher-make-page
2039                         (elpher-page-display-string elpher-current-page)
2040                         (elpher-page-address elpher-current-page))
2041                        #'elpher-render-download
2042                        t)))
2043
2044 (defun elpher-build-link-map ()
2045   "Build alist mapping link names to destination pages in current buffer."
2046   (let ((link-map nil)
2047         (b (next-button (point-min) t)))
2048     (while b
2049       (push (cons (button-label b) b) link-map)
2050       (setq b (next-button (button-start b))))
2051     link-map))
2052
2053 (defun elpher-jump ()
2054   "Select a directory entry by name.  Similar to the info browser (m)enu command."
2055   (interactive)
2056   (let* ((link-map (elpher-build-link-map)))
2057     (if link-map
2058         (let ((key (let ((completion-ignore-case t))
2059                      (completing-read "Directory item/link: "
2060                                       link-map nil t))))
2061           (if (and key (> (length key) 0))
2062               (let ((b (cdr (assoc key link-map))))
2063                 (goto-char (button-start b))
2064                 (button-activate b)))))))
2065
2066 (defun elpher-jump-to-number (n)
2067   "Jump to directory entry number N."
2068   (interactive "nDirectory item/link number: ")
2069   (let* ((link-map (reverse (elpher-build-link-map))))
2070     (if link-map
2071         (if (<= 1 n (length link-map))
2072             (let ((b (cdr (elt link-map (- n 1)))))
2073               (goto-char (button-start b))
2074               (button-activate b))
2075           (error "No link with that number")))))
2076
2077 (defun elpher-root-dir ()
2078   "Visit root of current server."
2079   (interactive)
2080   (let ((address (elpher-page-address elpher-current-page)))
2081     (if (not (elpher-address-special-p address))
2082         (if (or (member (url-filename address) '("/" ""))
2083                 (and (elpher-address-gopher-p address)
2084                      (= (length (elpher-gopher-address-selector address)) 0)))
2085             (error "Already at root directory of current server")
2086           (let ((address-copy (elpher-address-from-url
2087                                (elpher-address-to-url address))))
2088             (setf (url-filename address-copy) "")
2089             (elpher-go (elpher-address-to-url address-copy))))
2090       (error "Command invalid for %s" (elpher-page-display-string elpher-current-page)))))
2091
2092 (defun elpher-info-page (page)
2093   "Display information on PAGE."
2094   (let ((display-string (elpher-page-display-string page))
2095         (address (elpher-page-address page)))
2096     (if (elpher-address-special-p address)
2097         (message "Special page: %s" display-string)
2098       (message "%s" (elpher-address-to-url address)))))
2099
2100 (defun elpher-info-link ()
2101   "Display information on page corresponding to link at point."
2102   (interactive)
2103   (let ((button (button-at (point))))
2104     (if button
2105         (elpher-info-page (button-get button 'elpher-page))
2106       (error "No item selected"))))
2107
2108 (defun elpher-info-current ()
2109   "Display information on current page."
2110   (interactive)
2111   (elpher-info-page elpher-current-page))
2112
2113 (defun elpher-copy-page-url (page)
2114   "Copy URL representation of address of PAGE to `kill-ring'."
2115   (let ((address (elpher-page-address page)))
2116     (if (elpher-address-special-p address)
2117         (error (format "Cannot represent %s as URL" (elpher-page-display-string page)))
2118       (let ((url (elpher-address-to-url address)))
2119         (message "Copied \"%s\" to kill-ring/clipboard." url)
2120         (kill-new url)))))
2121
2122 (defun elpher-copy-link-url ()
2123   "Copy URL of item at point to `kill-ring'."
2124   (interactive)
2125   (let ((button (button-at (point))))
2126     (if button
2127         (elpher-copy-page-url (button-get button 'elpher-page))
2128       (error "No item selected"))))
2129
2130 (defun elpher-copy-current-url ()
2131   "Copy URL of current page to `kill-ring'."
2132   (interactive)
2133   (elpher-copy-page-url elpher-current-page))
2134
2135 (defun elpher-set-gopher-coding-system ()
2136   "Specify an explicit character coding system for gopher selectors."
2137   (interactive)
2138   (let ((system (read-coding-system "Set coding system to use for gopher (default is to autodetect): " nil)))
2139     (setq elpher-user-coding-system system)
2140     (if system
2141         (message "Gopher coding system fixed to %s. (Reload to see effect)." system)
2142       (message "Gopher coding system set to autodetect. (Reload to see effect)."))))
2143
2144
2145 ;;; Mode and keymap
2146 ;;
2147
2148 (defvar elpher-mode-map
2149   (let ((map (make-sparse-keymap)))
2150     (define-key map (kbd "TAB") 'elpher-next-link)
2151     (define-key map (kbd "<backtab>") 'elpher-prev-link)
2152     (define-key map (kbd "C-M-i") 'elpher-prev-link)
2153     (define-key map (kbd "u") 'elpher-back)
2154     (define-key map (kbd "-") 'elpher-back)
2155     (define-key map (kbd "^") 'elpher-back)
2156     (define-key map [mouse-3] 'elpher-back)
2157     (define-key map (kbd "U") 'elpher-back-to-start)
2158     (define-key map (kbd "O") 'elpher-root-dir)
2159     (define-key map (kbd "g") 'elpher-go)
2160     (define-key map (kbd "o") 'elpher-go-current)
2161     (define-key map (kbd "s") 'elpher-history)
2162     (define-key map (kbd "S") 'elpher-history-all)
2163     (define-key map (kbd "r") 'elpher-redraw)
2164     (define-key map (kbd "R") 'elpher-reload)
2165     (define-key map (kbd "T") 'elpher-toggle-tls)
2166     (define-key map (kbd ".") 'elpher-view-raw)
2167     (define-key map (kbd "d") 'elpher-download)
2168     (define-key map (kbd "D") 'elpher-download-current)
2169     (define-key map (kbd "m") 'elpher-jump)
2170     (define-key map (kbd "M") 'elpher-jump-to-number)
2171     (define-key map (kbd "i") 'elpher-info-link)
2172     (define-key map (kbd "I") 'elpher-info-current)
2173     (define-key map (kbd "c") 'elpher-copy-link-url)
2174     (define-key map (kbd "C") 'elpher-copy-current-url)
2175     (define-key map (kbd "a") 'elpher-set-bookmark-no-overwrite)
2176     (define-key map (kbd "A") 'bookmark-set-no-overwrite)
2177     (define-key map (kbd "B") 'bookmark-bmenu-list)
2178     (define-key map (kbd "!") 'elpher-set-gopher-coding-system)
2179     (define-key map (kbd "F") 'elpher-forget-current-certificate)
2180     (when (fboundp 'evil-define-key*)
2181       (evil-define-key*
2182        'motion map
2183        (kbd "TAB") 'elpher-next-link
2184        (kbd "C-") 'elpher-follow-current-link
2185        (kbd "C-t") 'elpher-back
2186        (kbd "u") 'elpher-back
2187        (kbd "-") 'elpher-back
2188        (kbd "^") 'elpher-back
2189        [mouse-3] 'elpher-back
2190        (kbd "U") 'elpher-back-to-start
2191        (kbd "o") 'elpher-go
2192        (kbd "O") 'elpher-go-current
2193        (kbd "r") 'elpher-redraw
2194        (kbd "R") 'elpher-reload
2195        (kbd "T") 'elpher-toggle-tls
2196        (kbd ".") 'elpher-view-raw
2197        (kbd "d") 'elpher-download
2198        (kbd "D") 'elpher-download-current
2199        (kbd "m") 'elpher-jump
2200        (kbd "M") 'elpher-jump-to-number
2201        (kbd "i") 'elpher-info-link
2202        (kbd "I") 'elpher-info-current
2203        (kbd "c") 'elpher-copy-link-url
2204        (kbd "C") 'elpher-copy-current-url
2205        (kbd "a") 'elpher-set-bookmark-no-overwrite
2206        (kbd "A") 'bookmark-set-no-overwrite
2207        (kbd "B") 'bookmark-bmenu-list
2208        (kbd "!") 'elpher-set-gopher-coding-system
2209        (kbd "F") 'elpher-forget-current-certificate))
2210     map)
2211   "Keymap for gopher client.")
2212
2213 (define-derived-mode elpher-mode special-mode "elpher"
2214   "Major mode for elpher, an elisp gopher client.
2215
2216 This mode is automatically enabled by the interactive
2217 functions which initialize the client, namely
2218 `elpher', and `elpher-go'."
2219   (setq-local elpher--gemini-page-headings nil)
2220   (setq-local elpher-current-page nil)
2221   (setq-local elpher-history nil)
2222   (setq-local elpher-buffer-name (buffer-name))
2223   (setq-local bookmark-make-record-function #'elpher-bookmark-make-record)
2224   (setq-local imenu-create-index-function #'elpher--gemini-page-headings))
2225
2226 (when (fboundp 'evil-set-initial-state)
2227   (evil-set-initial-state 'elpher-mode 'motion))
2228
2229
2230 ;;; Main start procedure
2231 ;;
2232
2233 ;;;###autoload
2234 (defun elpher (&optional arg)
2235   "Start elpher with default landing page.
2236 The buffer used for Elpher sessions is determined by the value of
2237 ‘elpher-buffer-name’.  If there is already an Elpher session active in
2238 that buffer, Emacs will simply switch to it.  Otherwise, a new session
2239 will begin.  A numeric prefix ARG (as in ‘\\[universal-argument] 42
2240 \\[execute-extended-command] elpher RET’) switches to the session with
2241 that number, creating it if necessary.  A non numeric prefix ARG means
2242 to create a new session.  Returns the buffer selected (or created)."
2243   (interactive "P")
2244   (let* ((name (default-value 'elpher-buffer-name))
2245          (buf (cond ((numberp arg)
2246                      (get-buffer-create (format "%s<%d>" name arg)))
2247                     (arg
2248                      (generate-new-buffer name))
2249                     (t
2250                      (get-buffer-create name)))))
2251     (pop-to-buffer-same-window buf)
2252     (unless (buffer-modified-p)
2253       (elpher-mode)
2254       (elpher-visit-page (elpher-make-start-page))
2255       "Started Elpher."))); Otherwise (elpher) evaluates to start page string.
2256
2257 ;;; elpher.el ends here